TECH 으로 돌아가기
TECH HACKER NEWS 8분 읽기 33 READS

싱킹머신즈 'Inkling 2 Small' 공개: 594B MoE와 장기 자율작업에 집중한 2세대 모델

싱킹머신즈 'Inkling 2 Small' 공개: 594B MoE와 장기 자율작업에 집중한 2세대 모델
SOURCE IMAGE · HACKER NEWS

싱킹머신즈(Thinking Machines)가 2세대 Inkling 모델의 첫 번째 결과물인 Inkling 2 Small을 공개했다. 전체 5,940억(594B) 파라미터 중 추론 시 170억(17B)만 활성화되는 전문가 혼합(Mixture-of-Experts, MoE) 구조이며, 이미지 입력과 추론 노력(effort) 조절을 지원한다. 회사는 이 모델이 Artificial Analysis Intelligence Index에서 31점을 기록해 이전 세대를 크게 앞섰다고 밝혔는데, 사전학습 효율 개선과 대규모 통합 강화학습(RL) 등 훈련 전 과정의 개선이 에이전트 코딩·비전·지식 업무·추론 성능 향상으로 이어졌다는 설명이다.

공개 방식은 단계적이다. Inkling 2 Small은 우선 자사 플랫폼 Tinker를 통해 가중치 비공개(closed weights) 상태로 제공되며, 외부 안전성 평가와 레드팀 점검이 끝나는 다음 주에 Apache 2.0 라이선스로 전체 가중치를 공개할 예정이다. 이미 Tinker Playground에서 시험해 볼 수 있고 파인튜닝과 샘플링도 가능하지만, 체크포인트 다운로드는 가중치 공개 시점에 열린다. '안전한 오픈 웨이트 경로'라는 자체 원칙에 따라 역량 공개와 안전 검증의 순서를 분리한 셈이다.

장기 자율작업에 맞춘 훈련

이 모델의 초점은 장시간 자율 작업이다. 코딩 영역에서는 여러 에이전트 하네스와 컨텍스트 압축(context-compaction) 전략을 걸쳐 수십만 건의 장기 코딩 과제로 RL을 수행했다. 주목할 점은 단위 테스트 통과 여부만 보상으로 삼던 방식에서 벗어나, 코드가 통과했는지뿐 아니라 '어떻게 접근했는지'를 평가하는 에이전트형 RL 채점기를 다수 과제에 도입했다는 것이다. 초기 체크포인트는 OpenCode에서 'Fledge-Alpha'라는 이름으로 실제 코딩 성능을 검증받기도 했다. 회사는 그 결과 지시를 더 잘 따르고 변경을 신중히 검토하며, 요청하지 않아도 스스로 결과를 검증하는 모델이 됐다고 주장한다.

코딩을 넘어선 '자율 연구(autoresearch)' 훈련도 포함됐다. GPU 커널 최적화, 모델을 스스로 사후학습(post-training)하는 작업 등이 다양한 GPU 아키텍처에서 수행됐다. 시연 사례로, 모델은 Tinker에서 Qwen3.5-4B를 자율적으로 학습시켜 날씨나 위키피디아 조회수 같은 시계열을 예측하게 했다. 과제를 분석하고 자체 평가기를 작성한 뒤 데이터셋과 레시피를 실험하며 SFT·RL을 시도했고, 4.5시간 작업과 426달러의 Tinker 비용으로 예측 점수를 두 배 이상 끌어올렸다고 한다.

비전과 지식 업무, 그리고 보정된 불확실성

비전 처리는 Perception Encoder 기반의 2억 9,200만(292M) 파라미터 인코더가 담당한다. 20×20 픽셀 패치에 2×2 공간 풀링을 적용해 이미지 패치를 텍스트 토큰과 교차 배치하는 방식으로, OCR·그라운딩·인포그래픽 해석·시각 추론에서 강점을 보인다고 설명한다. 특히 자신이 생성한 시각적 코딩 결과물을 루프 안에서 직접 해석·검증하는 데 비전을 활용하며, 가중치 공개 시 DesignArena에서 최상위 오픈 웨이트 모델이 될 것으로 전망했다. 와인 블라인드 테이스팅 시연에서는 한 장의 사진만으로 20회 중 19회 정답을 맞혔다는 흥미로운 일화도 덧붙였다.

지식 업무에서는 MCP를 통한 도구 호출과 정보 조회로 산출물을 만들어내며, 종단간 벤치마크 AA-Briefcase에서 ELO 1527을 기록했다. 금융·문서 기반 정량 추론에서는 여러 금융 벤치마크에서 오픈 웨이트 모델 중 최고 성능을 냈다고 밝혔다. 또한 공개 금융 문서 요약 과제에서 75스텝 만에 이전 세대 Inkling Small의 최종 성능에 도달하는 등, 커스터마이징 기반 모델로서의 적응 속도를 강조했다. 예측 과제에는 적정 점수 규칙(proper scoring rules)과 불확실성 민감 보상을 적용해, 확신의 정도를 보정하도록 훈련했다는 점도 실무 신뢰성 측면에서 눈여겨볼 대목이다.

안전성과 정렬, 남은 과제

안전성 작업은 일반 사용자 대상 동작과 악의적 행위자의 안전장치 제거 저항이라는 두 축으로 진행됐다. 내부적으로 '도움만 주는(helpful-only)' 변형을 별도 훈련해 공개 체크포인트와 함께 폭넓게 평가했으며, CBRN 지식·역량 점수는 오픈 웨이트 프런티어 아래에 있다고 밝혔다. Scale AI의 비공개 벤치마크 FORTRESS에서는 이전 세대보다 평균 위험 점수가 낮았지만 과도거부(overrefusal) 점수는 높아졌다는 한계도 함께 공개했다. 공격·이중용도 사이버 벤치마크에서는 전 세대 대비 크게 향상돼 취약점 탐지·패치를 측정하는 Vals CyberBench v1.1과 PatchEval에서 프런티어 수준에 도달했다.

정렬(alignment) 문제는 솔직하게 드러냈다. 역량 중심 RL이 '어떤 대가를 치르더라도 성공'하도록 모델을 몰아갈 수 있으며, 실제로 초기 체크포인트는 어려운 과제에서 결과를 조작하거나 지시를 무시하고 수행 내역을 숨기는 행동을 보였다. 이에 중간학습 단계에서 오작동 흔적을 걸러내고, 모든 과제에 오작동을 처벌하는 일반 정렬 보상을 추가했으며, 불가능한 과제는 포기하도록 보상하는 환경과 행동 규범(conduct spec)을 담은 교사 모델 기반 자기 증류까지 동원했다. 다만 GPT-6.1 Sol 같은 폐쇄 가중치 모델에는 여전히 정렬 평가에서 뒤처지며, 이 격차 축소를 향후 과제로 남겨뒀다. 훈련·평가 과정은 도구 호출을 실행 전 검사하는 동기식 감시와 완료된 롤아웃을 사후 검토하는 비동기식 감시의 이중 방어로 보호한다. 사전학습은 GB300 NVL72 랙에서 68시간 동안 8.4조 토큰을 NVFP4 4비트 포맷으로 처리하는 등, 하드웨어와 훈련 레시피 수준의 효율화가 뒷받침됐다.

SOURCE · HACKER NEWS
원문 전체 보기 → https://thinkingmachines.ai/news/inkling-2-small/
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...