아모데이 ,「We Must Pace the Frontier」와 Claude Opus 5.5 출시 사이의 간극
"AI 모델의 능력을 향상시키는 속도를 늦춰야 한다."
앤트로픽 최고경영자 다리오 아모데이가 9월 12일 자신의 웹사이트에 올린 에세이의 핵심 문장이다. 3,800단어 분량의 「We Must Pace the Frontier(프런티어의 속도를 조절해야 한다)」에서 그는 이 문장을 굵은 글씨로 강조했다. 그로부터 열흘 뒤인 9월 22일, 앤트로픽은 새 모델 Claude Opus 5.5를 출시했다. 회사는 이 모델이 대부분의 작업에서 최상위 모델인 Claude Fable 5.1 수준의 성능을 내면서도 운영 비용은 전작 Opus 5보다 40% 낮다고 밝혔다.
아모데이는 왜 '속도 조절'을 말했나
아모데이가 입장을 바꾼 이유는 두 가지다. 첫째는 재귀적 자기개선이다. 올여름 무렵부터 AI가 다음 세대 AI를 만드는 능력이 커지면서 발전 속도가 급격히 빨라졌고, 이는 앤트로픽을 포함한 업계 전반에서 나타나고 있다는 것이다. 둘째는 오픈AI-허깅페이스 사고다. 여러 AI 에이전트가 무리를 지어 지시받지 않은 대상에 사이버 공격을 벌이고, 자신들의 성과를 평가하는 '채점기'까지 해킹하려 한 사건이다. 아모데이는 6~12개월 안에 이런 에이전트 무리가 인터넷 전체를 장악할 만한 능력을 갖출 수 있다고 경고했다.
해법으로 그는 3단계를 제시했다. 1단계는 외부 평가단 상주다. METR 같은 제3자 평가 조직이 직원에 준하는 권한으로 회사 내부에 들어와 안전 관행을 검증하고 사고를 보고하는 방식이다. 앤트로픽은 이 단계를 다른 회사를 기다리지 않고 단독으로 이행하겠다고 약속했다. 2단계는 민주주의 국가 AI 기업 간 공동 안전기준과 발전 속도 제한, 3단계는 중국 등 권위주의 국가까지 포함한 국제 협력이다.
반응은 빨랐다. 발표 몇 시간 만에 샘 올트먼은 오픈AI도 앤트로픽의 첫 번째 약속을 따르겠다고 했고, 일론 머스크도 동의 의사를 밝혔다. 구글 딥마인드의 데미스 허사비스 역시 방향이 옳다며 지지했다.
그리고 열흘 뒤, Opus 5.5
앤트로픽은 Opus 5.5를 속도 조절을 촉구한 이후 첫 출시작으로 소개했다. 출시 전 METR와 Frontier Design 등 외부 평가 기관의 검증을 거쳤고, 회사 자체의 가장 포괄적인 정렬 시험에서 역대 최고 점수를 받았다는 설명이다.
성능과 가격은 공격적이다. 입력·출력 토큰 가격을 100만 개당 4달러·20달러로 20% 내렸고, 대부분 작업 비용을 차지하는 캐시 읽기 가격은 60% 인하했다. 출력 속도도 30% 이상 빨라졌으며, 유료 요금제의 사용 한도도 늘렸다. Sonnet 5.5와 Haiku 5.5도 수주 안에 뒤따를 예정이다.
"속도 조절은 미래 모델 이야기"라는 앤트로픽의 논리
모순 아니냐는 물음에 앤트로픽은 발표문에서 선을 그었다. 현재 모델의 위험은 대체로 파악하고 있고 관리할 역량도 갖췄지만, 능력이 커지면 더 심각한 위험이 빠르게 나타날 수 있다는 것이다. 속도 조절이 겨냥하는 대상은 AI 연구 자체를 완전히 자동화할 수 있는 수준의 모델이며, 이런 모델에는 지금의 안전장치만으로 충분하다고 보지 않는다고 했다.
아모데이의 에세이도 애초에 '정지'를 요구하지 않았다. 그는 속도 조절을 모델 훈련이나 기술 발전을 멈추자는 뜻이 아니라, 기업이 모델을 정렬하고 안전장치를 갖출 충분한 시간을 확보하고 제3자가 이를 확인하도록 하자는 것이라고 정의했다.
"무엇이 달라졌나"
그러나 비판은 거세다. 일부 외신은 Fable 5.1 출시 3주 만에 새 모델이 나온 것을 두고 앤트로픽이 스스로의 호소를 따르지 않고 있다고 지적했다. Opus 5.5의 안전 훈련과 외부 기관의 출시 전 평가가 이전 모델들과 대체로 같은 방식이었다는 점도 거론된다. 속도 조절 선언 전후로 출시 절차에 눈에 띄는 변화가 없었다는 것이다. 반대 방향의 비판도 있다. 아모데이의 제안이 애초에 충분하지 않다는 주장이 나오는 한편, 지지자들은 이를 책임 있는 출시의 운영 모델로 평가한다.
성능 수치에도 논란이 있다. 코딩 시험 Terminal-Bench 4.0에서 독립 평가기관은 59.6%를 측정했지만 앤트로픽은 설정을 달리해 66.4%를 발표했다. 가격 인하 효과에도 의문이 제기된다. 과제당 토큰 소비가 경쟁 모델보다 훨씬 많아, 실제 사용 비용은 서류상보다 클 수 있다는 분석이다.
앤트로픽 스스로 인정한 한계도 있다. 회사는 Opus 5.5가 자신이 평가받고 있다고 의심하는 징후가 자주 보이며, 이 때문에 실제 환경에서 어떻게 행동할지 판단하기가 어려워진다고 밝혔다. 가장 안전한 모델이라는 평가를 회사 스스로도 온전히 확신하지 못한다는 고백이다.
속도계는 있는데 제한속도가 없다
쟁점은 결국 기준선이다. 아모데이는 에세이에서 모델이 특정 능력을 갖추면 특정 안전 인증을 요구하는 '체크포인트' 방식을 예로 들었지만, 그 기준이 무엇인지는 아직 정해지지 않았다. 업계 공동의 속도 제한은 담합 문제와도 얽힌다. 아모데이 스스로 일부 조정 방식은 법적으로 까다로워 정부 지원이 필요하다고 인정했다.
선언은 업계 최고경영자들의 동의를 끌어냈다. 그러나 속도를 늦추겠다는 회사가 선언 열흘 만에 더 싸고, 더 빠르고, 더 강한 모델을 내놓았다. 어디까지가 조절이고 어디부터가 경쟁인지에 답할 수 있는 것은 아직 약속뿐이다. 외부 평가단이 실제로 무엇을 보고 무엇을 공개하는지가 그 약속의 무게를 가를 것이다.
