오픈AI 최고기술책임자(CTO) 출신 미라 무라티가 이끄는 AI 스타트업 씽킹머신랩이 15일(현지시간) 자체 개발한 AI 모델 ‘잉클링(Inkling)’을 공개했다.
2025년 2월 설립된 씽킹머신랩이 자체 AI 모델을 내놓은 것은 이번이 처음이며, 지난해 10월 파인튜닝 도구 ‘팅커(Tinker)’를 첫 제품으로 선보인 지 약 9개월 만이다. 로이터, 테크크런치 등 주요 외신들도 이번 발표를 비중 있게 다뤘다.
잉클링은 전문가 혼합(MoE) 구조의 트랜스포머 모델로, 전체 파라미터는 9750억 개이지만 실제 추론에 쓰이는 활성 파라미터는 410억 개 규모다. 최대 100만 토큰의 컨텍스트 창을 지원하며, 텍스트·이미지·오디오·비디오를 아우르는 45조 토큰 분량의 데이터로 사전 학습됐다.
모델을 공개하지 않는 오픈AI·구글·앤트로픽과 달리, 씽킹머신랩은 아파치 2.0 오픈소스 라이선스로 잉클링의 가중치 전체를 풀었다. 덕분에 외부 개발자와 기업은 이 모델을 내려받아 자체 서버나 가상사설클라우드(VPC)에서 직접 수정하고 구동할 수 있다.
회사는 잉클링과 함께 활성 파라미터 120억 개 규모의 경량 모델 ‘잉클링-스몰(Inkling-Small)’ 프리뷰도 함께 선보였으며, 정식 가중치는 추가 테스트를 마친 뒤 공개할 예정이라고 밝혔다.
잉클링은 텍스트뿐 아니라 이미지와 음성도 함께 처리하는 멀티모달 모델이며, 사용자가 추론에 투입하는 연산량을 직접 조절할 수 있는 ‘사고 강도’ 기능도 갖췄다. 답변의 확신도를 스스로 판단해 불확실한 사안에는 추측 대신 유보적인 답변을 내놓도록 훈련된 점도 눈에 띈다.
씽킹머신랩은 한 코딩 벤치마크에서 잉클링이 엔비디아 네모트론3 울트라와 동일한 성능을 내면서도 필요한 토큰 수는 3분의 1에 불과했다고 밝혔다.
다만 씽킹머신랩은 잉클링이 현재 시장에 나온 모델 중 가장 강력한 모델은 아니라고 스스로 선을 그었다. 대신 멀티모달 능력과 효율적인 추론, 팅커를 통한 파인튜닝 지원이 결합된 점이 커스터마이징용 기반 모델로서의 강점이라고 강조했다.
테크크런치는 이를 두고 씽킹머신랩이 하나의 범용 모델로 모든 용도를 해결하려는 ‘원사이즈핏올’ 전략에 반기를 든 것이라고 분석했다. 조직이 자체 데이터로 모델을 직접 다듬는 방식이 중앙집중식으로 고정된 범용 모델보다 더 나은 성능을 낼 수 있다는 것이 회사의 핵심 논지다.
씽킹머신랩은 잉클링을 처음부터 자체적으로 사전학습시켰지만, 대규모 강화학습(RL)에 앞선 초기 포스트트레이닝 데이터를 만드는 과정에서는 문샷AI의 오픈웨이츠 모델 ‘키미 K2.5’ 등 타사 모델을 일부 활용했다고 테크크런치를 통해 밝혔다.
차기 모델부터는 외부 모델 의존 없이 완전히 자체적인 포스트트레이닝 체계로 전환하겠다는 계획도 함께 내놓았다. 파이낸셜타임스는 무라티의 씽킹머신랩이 데뷔 모델에서 중국계 모델의 데이터를 일부 끌어다 썼다고 지적했다.
커스터마이징 성공 사례로는 헤지펀드 브릿지워터와 진행한 금융 특화 모델 실험이 제시됐다. 오픈웨이츠 모델을 브릿지워터의 금융 노하우로 추가 학습시킨 결과 금융추론 테스트에서 84.7%의 점수를 기록해 상위권 비공개 모델을 앞섰고, 운영 비용도 대폭 낮았다는 설명이다. 다만 이 수치는 두 회사의 자체 평가에 근거한 것으로, 독립적인 검증을 거치지는 않았다고 외신들은 지적했다.
씽킹머신랩은 개발 속도도 강조했다. 오픈AI가 기술 상용화와 매출 확보까지 약 5년, 앤트로픽이 약 3년 걸렸던 것과 달리 자사는 약 9개월 만에 같은 이정표에 도달했다는 것이다. 잉클링은 이날부터 팅커 플랫폼에서 파인튜닝이 가능하며, 한시적으로 50% 할인된 가격에 제공된다. 컨텍스트 길이는 6만 4000토큰과 25만 6000토큰 중 선택할 수 있고, 토게더AI·파이어웍스·모달·데이터브릭스·베이스텐 등을 통해 API로도 이용할 수 있다.
무라티는 2022년부터 2024년까지 오픈AI CTO를 지내며 챗GPT와 GPT-4 개발을 이끌었고, 2023년 11월 이사회 사태 당시에는 닷새간 임시 CEO를 맡기도 했다. 2024년 9월 오픈AI를 떠난 그는 이듬해 2월 씽킹머신랩을 설립했으며, 앤드리슨호로위츠 주도로 20억달러(약 2조7700억원) 규모의 초기 투자를 유치해 120억달러(약 16조6000억원)의 기업가치를 인정받았다. 엔비디아는 지난 3월 씽킹머신랩에 투자하는 동시에 자사의 차세대 반도체 ‘베라루빈’ 컴퓨팅 자원 1기가와트를 다년간 공급하는 계약도 체결했다. 씽킹머신랩의 임직원 수는 약 100명으로 알려졌다.
press@theopiniontimes.news
