인공지능(AI) 모델 클로드 개발사 앤트로픽이 AI 기술의 급속한 발전에 대응해 정부 차원의 구속력 있는 규제와 노동시장 대책이 시급하다고 촉구했다.
앤트로픽은 10일(현지시간) 성명을 내고 AI 위험을 다루는 엄격한 연방 법률이 의회를 통과하지 않는 한 주 정부의 AI 규제를 막아서는 안 된다고 주장했다고 로이터 통신이 전했다. 아울러 의회가 AI 기업의 최상위 모델에 대해 독립적인 안전성 테스트를 의무화해야 하며, AI로 인한 실업 등 사회·경제적 문제에도 대책을 강구해야 한다고 강조했다.
“1~2년 내 데이터센터 속 천재들의 나라 수준 도달”…연방 차원 구속력 있는 입법 촉구
다리오 아모데이 최고경영자(CEO)는 같은 날 개인 블로그에 ‘기하급수적 AI 발전에 대한 정책(Policy on the AI Exponential)’이라는 에세이를 게재하며 이 같은 주장을 구체화했다.
그는 에세이에서 AI 발전 속도가 기하급수적으로 가팔라지고 있어 1~2년 안에 AI가 ‘데이터센터 속 천재들의 나라’ 수준에 도달할 것이라고 전망하면서, 이제는 과거의 ‘투명성’ 중심 접근만으로는 충분한 규제가 불가능하다고 지적했다.
아모데이 CEO는 “투명성을 넘어 AI에 더 엄격하고 구속력 있는 규제를 도입해야 할 때”라며, 항공기에 기술 테스트와 안전 감사를 실시하는 연방항공청(FAA)을 모델로 삼아 AI를 감독하는 독립 기관을 설립해야 한다고 강조했다.
에세이에는 앤트로픽이 작성한 프런티어 모델 테스트 관련 입법 제안서와 일자리 대체 문제 대응을 위한 경제 정책 프레임워크도 함께 공개됐으며, 앤트로픽은 이 정책 프레임워크에 상당한 재정 지원을 제공할 방침이라고 밝혔다.
AI로 인한 대규모 실업 문제도 짚었다. 아모데이 CEO는 “장기적인 일자리 대체 현상은 바람직하지 않을 뿐만 아니라 위험하기도 하다”며 고용 촉진을 위한 인센티브와 임금 보험, 보편적 자본 계좌 등 소득 지원 방안이 필요할 것으로 본다고 주장했다. 완전 자율무기 체계에 대해서는 신뢰할 수 있는 책임 규정 마련과 미국 내 사용 금지를 촉구했다.
클로드, 이란 여학생 초등학교 공습에 사용됐나…”인간이 최종 결정” 원칙 강조
아모데이 CEO는 이날 공개된 블룸버그의 인터뷰 프로그램 ‘더 서킷’에도 출연해 AI의 군사적 활용과 관련한 민감한 발언을 쏟아냈다.
그는 지난 2월 28일 이란 남부 미나브 소재 여학생 초등학교에 미사일이 투하돼 어린이 최소 120명 이상이 사망한 공습에 클로드가 사용됐는지 여부를 알지 못한다고 밝혔다. 해당 공습에는 미국산 토마호크 순항미사일이 사용된 정황이 다수 확인됐으나, 미 당국은 아직 공식 인정하지 않고 있다.
아모데이 CEO는 그러면서도 “우리가 확립한 원칙이자 이번 사건에서도 준수된 원칙은 인간이 최종 결정을 내린다는 것”이라며, 해당 공습이 AI 보조 하에 인간의 통제권이 유지되는 것이 왜 중요한지를 보여주는 사례라고 강조했다.
아울러 이민세관단속국(ICE)·세관국경보호국(CBP)이 집행하는 이민 단속이나 팔레스타인 가자지구 등에서는 클로드가 사용되고 있지 않다고 밝혔다.
그는 미 국방부의 군사 작전에 클로드가 활용되는 것 자체에는 문제가 없다는 입장도 내비쳤다. “군사 정책은 결국 군 의사결정권자의 손에 맡겨야 한다”는 견해와 함께, 자신은 미국이 세계 무대에서 더 강력한 행위자가 되기를 바라는 애국자라고 밝혔다.
사이버 과제 73% 해결하는 ‘미토스’ 공개 지연 배경도 공개…”상업적 손실 감수했다”
한편 아모데이 CEO는 전문가 수준의 사이버 보안 과제를 73% 해결하는 능력을 갖춰 업계에 큰 파장을 일으킨 최상위 모델 ‘미토스’의 일반 공개를 미뤄온 배경도 설명했다.
그는 “모델들의 취약점 탐지 능력은 꾸준히 향상됐지만 이번에는 도약 폭이 특히 컸다”며 “초기 사용 기업들 가운데 ‘이건 초강력 무기다. 총기 허가증이 필요할 정도다. 제발 공개하지 말아달라’고 반응하기도 했다”고 전했다. 공개를 늦추면서 상업적으로 큰 타격을 받았지만, 현재 선도적 위치에 있어 이를 감내할 여유가 있었다고도 덧붙였다.
끝으로 진행자가 원자폭탄 개발을 주도한 물리학자 J. 로버트 오펜하이머와의 공통점을 묻자 아모데이 CEO는 “오펜하이머는 실패 사례, 있어서는 안 될 사례로 본다”며 “좋은 결말을 맺으려면 모든 곳에 견제와 균형이 있어야 한다”고 말했다.
