Murati의 첫 모델 Inkling 공개, 벤치마크 1등 대신 무료 가중치·유료 Tinker

AI 요약

• 무슨 일: Mira Murati의 Thinking Machines Lab이 7월 15일 첫 모델 Inkling을 공개했습니다. 975B 총 파라미터, 41B 활성의 멀티모달 MoE이고, 가중치는 Apache 2.0으로 HuggingFace에 올라갔습니다.
  • fine-tuning과 API는 자사 커스터마이징 플랫폼 Tinker에서 제공합니다. 컨텍스트는 Tinker API 256K, 오픈 가중치 최대 1M입니다.
• 성능: Artificial Analysis 지능 지수 41점으로 미국 랩 오픈 가중치 선두입니다(직전 1위 Nemotron 3 Ultra는 38). AIME 2026 97.1%, SWEBench Verified 77.6%.
• 노림수: 회사는 "가장 강한 모델은 아니다"라고 스스로 밝히고, 추론 토큰 과금 대신 Tinker fine-tuning으로 수익을 냅니다. 가중치가 공짜라 실행 대가를 낼 의무가 없다는 점, 인프라 비용 회수 방안이 미공개라는 점이 회의론의 근거입니다.

Mira Murati가 세운 Thinking Machines Lab이 2026년 7월 15일 첫 프로덕션 모델 Inkling을 공개했습니다. Murati는 2024년 9월까지 OpenAI CTO였고, 이 회사는 그가 나온 뒤 세운 랩입니다. 이번 발표에서 가장 눈에 띄는 문장은 성능 자랑이 아니라 자백입니다. 회사는 발표문에 "Inkling은 오늘 나와 있는 것 중, 오픈이든 클로즈드든, 가장 강한 모델은 아니다"라고 직접 적었습니다.

대신 회사가 파는 것은 성능이 아니라 고칠 수 있는 권리입니다. Inkling의 가중치는 Apache 2.0으로 완전히 공개돼 누구나 내려받아 바꿀 수 있고, 돈은 이 모델을 조직 데이터에 맞춰 fine-tune하는 Tinker 플랫폼에서 받습니다. OpenAI와 Anthropic이 추론 토큰에 요금을 매기는 방식과 정반대 지점입니다.

975B를 담고 41B만 켜는 오픈 가중치

먼저 이 모델이 무엇인지부터 봅니다. Inkling은 전문가 혼합(Mixture-of-Experts) 구조입니다. 전체 파라미터는 975B이지만 한 번의 요청에서 실제로 켜지는 건 약 41B뿐입니다. 모델 카드 기준으로 66층 디코더 트랜스포머이고, 토큰마다 256개 전문가 중 6개에 공유 전문가 2개를 더해 처리합니다. 큰 모델을 두되 매번 일부만 돌려 속도와 비용을 낮추는 설계입니다.

입력은 텍스트, 이미지, 오디오를 받고 출력은 텍스트만 냅니다. 사전학습에는 비디오까지 포함해 45조 토큰을 썼습니다. 가중치는 HuggingFace에 thinkingmachines/Inkling과 4비트 양자화판 Inkling-NVFP4로 올라갔습니다. 다만 전체를 돌리려면 하드웨어가 만만치 않습니다. BF16 체크포인트는 NVIDIA B300 8장 또는 H200 16장(합산 2TB 이상 VRAM)을 요구하고, NVFP4 양자화판이라야 B300 4장 또는 H200 8장으로 내려옵니다.

성능은 오픈 가중치라는 좁은 칸에서 보면 선두입니다. Artificial Analysis 지능 지수에서 41점을 받아, 직전까지 미국 랩 오픈 가중치 1위였던 Nemotron 3 Ultra(38점)를 3점 앞섰습니다.

세부 벤치마크도 낮지 않습니다. AIME 2026 수학에서 97.1%, GPQA Diamond 87.2%, 코딩 SWEBench Verified 77.6%를 기록했습니다. 회사가 특히 강조하는 건 토큰 효율입니다. 작업당 평균 25K 토큰을 써서 같은 계열 오픈 모델보다 적게 씁니다. TechCrunch는 동급 코딩 성능에서 Inkling이 Nemotron 3 Ultra의 3분의 1 토큰만 쓴다고 전했습니다.

숫자를 종합하면 위치가 분명해집니다. Inkling은 중국 오픈 모델들이 주도하던 오픈 가중치 경쟁에 미국 랩이 내놓은 상위 카드입니다. 다만 GPT-5.6이나 Claude 같은 프런티어 클로즈드 모델의 절대 성능을 넘겠다는 물건은 아닙니다. 회사도 그 선을 먼저 그었습니다.

가중치는 공짜, 돈은 Tinker에서

Inkling의 진짜 뉴스는 벤치마크가 아니라 돈을 버는 방식입니다. 가중치를 Apache 2.0으로 풀었다는 건, 다운로드한 사람이 Thinking Machines에 실행 대가를 낼 의무가 전혀 없다는 뜻입니다. OpenAI와 Anthropic이 API 호출 토큰마다 요금을 걷는 것과 근본적으로 다릅니다.

그럼 어디서 돈이 나오느냐. 회사는 모델을 고치는 도구를 판다는 답을 내놨습니다. Tinker는 Inkling을 조직의 전문 데이터에 맞춰 fine-tune하고 학습·호스팅하는 플랫폼이고, 매출은 여기서 발생합니다. 발표문의 논리는 이렇습니다. "많은 실제 문제는 최고의 범용 모델로도 잘 풀리지 않으며, 그 간극은 조직의 전문 지식을 활용한 fine-tuning이 메운다."

이 주장을 뒷받침하려고 회사가 든 사례가 헤지펀드 Bridgewater와의 협업입니다. TechCrunch에 따르면 Tinker로 금융 데이터에 오픈 모델을 fine-tune한 결과, 금융 추론 벤치마크에서 84.7%를 기록하며 최고 사양 독점 모델을 앞섰고 실행 비용은 약 14분의 1이었습니다. 다만 이 수치는 양사가 자체 평가한 값이고 독립 검증을 거치지 않았다는 점을 TechCrunch가 함께 밝혔습니다.

이 전략은 Microsoft CEO Satya Nadella가 최근 던진 경고와 맞물립니다. 그는 기업이 독점 모델을 쓰면 두 번 값을 치른다고 했습니다. 한 번은 구독료로, 또 한 번은 프롬프트에 담긴 업무 지식이 다음 모델 개선에 흘러 들어가면서입니다. 가중치를 손에 쥐고 자체 데이터로 fine-tune하면 그 두 번째 비용을 피한다는 논리이고, Inkling과 Tinker는 정확히 그 지점을 겨냥합니다.

누구를 위한 모델인가

문제는 회사가 스스로 그은 선이 곧바로 되돌아온다는 데 있습니다. "가장 강한 모델은 아니다"라는 정직한 포지셔닝은, 기업 시장에서 이 모델을 누가 살 것인가라는 물음을 남깁니다. 최고 성능이 필요하면 클로즈드 프런티어를 쓰고, 저비용 오픈이 필요하면 이미 중국 모델이 물량을 대고 있습니다. Inkling이 노리는 자리는 그 사이, "충분히 좋고 내 데이터로 고칠 수 있는 미국 오픈 모델"이라는 좁은 칸입니다.

비용 회수 방안이 아직 안 보인다는 점도 회의론의 축입니다. 인프라 지출을 어떻게 감당할지 회사는 밝히지 않았습니다. 가중치가 공개된 이상 실행 매출은 Tinker를 쓰는 고객에게서만 나오는데, 다운로드한 사람은 다른 클라우드에서 얼마든지 직접 돌릴 수 있습니다. 재무 상황도 순탄치 않았습니다. 지난해 120억 달러 밸류에이션에 20억 달러를 조달했지만, 보도된 500억 달러 라운드는 2026년 1월까지 지연됐고 같은 시기 공동창업자 2명이 OpenAI로 떠났습니다.

기술적으로 짚을 주의점도 있습니다. 회사는 Inkling을 from scratch로 사전학습했다고 밝히면서도, 초기 post-training 데이터 일부를 다른 오픈 모델인 Moonshot의 Kimi K2.5로 생성해 썼다고 인정했습니다. 완전한 자체 학습은 다음 모델로 미뤘습니다. 안전 쪽에서는 모델 카드가 역할극이나 우회적으로 프레이밍된 유해 프롬프트에 가끔 응하는 경향을 적어 두었고, 고위험 용도에는 다층 방어와 사람 감독을 권고했습니다.

정리하면 Inkling은 성능 순위표의 사건이 아니라 사업 구조의 실험입니다. 가중치를 무료로 풀어 채택을 늘리고, 그 위에서 fine-tuning 도구로 돈을 버는 모델이 프런티어 랩의 토큰 과금과 경쟁할 수 있는지를 시장이 답할 차례입니다. 개발팀이 지금 확인할 것은 세 가지입니다. 우리 작업이 범용 프런티어로 충분한지, 아니면 자체 데이터 fine-tuning이 필요한지, 그리고 필요하다면 그 fine-tuning을 Tinker에 맡길지 직접 인프라에서 돌릴지입니다.