- 월 10억 건 중 1건 차단… 인간·AI 협업 비율 90% 돌파
- 안전 연산력에 최대 12% 투입하며 자율 제어 통제력 강화
인공지능(AI)이 스스로 다음 세대의 모델을 개발하는 시대가 현실화되고 있다. 앤트로픽은 자사의 최신 AI 모델 ‘클로드(Claude)’가 사내 연구개발(R&D) 작업의 26%를 주도적으로 수행하고 있다고 발표했다. 연구 진선상에서 AI의 기여도를 정기적으로 대중에 알리는 조치의 일환으로, 기술의 자기 발전 속도를 투명하게 공개하겠다는 취지다.
독립 연구기관 에포크 AI(Epoch AI)의 측정 기준에 따르면 클로드의 개발 기여도는 지난해 3월 1% 수준에 불과했으나 불과 수개월 만에 급격한 성장세를 보였다. 현재 사내 전체 연구 과제의 90% 이상에서 인간 연구원과 AI의 협업이 이뤄지고 있으며, 모든 과정에서 전면적인 자율 작동 대신 엄격한 사람의 감독이 동반되고 있다.
AI의 자율성이 증대됨에 따라 발생할 수 있는 의도치 않은 동작이나 통제 상실 위험을 막기 위한 안전장치도 구체화되었다. 내부 시스템에서 동시 가동되는 수만 대 규모의 AI 에이전트가 수립하는 모든 결정은 실행 직전 검증 프로세스를 거친다. 지난 한 달간 집계된 약 10억 건의 판단 사례 중 사전 차단된 비중은 약 4만 7천 건당 1건 비율로 파악되었다.
기술 고도화에 투입되는 자원 가운데 안전 연구가 차지하는 비중도 함께 명시되었다. 연구에 활용된 전체 연산 자원 중 6%가 안전성 확보 과제에 할당되었으며, AI가 직접 수행하는 연구 영역에서는 이 비중이 12%까지 확대되었다. 역량 강화와 안전 확보에 동시에 기여하는 연산 자원은 보수적 기준에 따라 일반 개발 작업으로 분류해 집계했다.
이번 발표는 기술 생태계 전반에서 자율형 AI의 예측 불가능성에 대한 우려가 커지는 상황에서 이뤄졌다. 업계 주요 기업들이 안전성 점검 보고서를 정례화하는 등 투명성 확보 노력을 이어가는 가운데, 앤트로픽 역시 연산력 배분과 제어 통계 자료를 주기적으로 업데이트하며 기술 발전과 안전성 통제 간의 균형을 유지할 방침이다.
honggasy@gmail.com
