"멈추는 게 아니라 늦추는 것" — 제안의 내용

아모데이는 개인 에세이 사이트(darioamodei.com)에 올린 글에서 AI 능력이 일정 수준을 넘으면 통제 상실과 파국적 피해를 먼 과학공상으로 치부할 수 없다는 진단을 내리고, 최첨단 모델의 개발 속도를 국제적으로 조율하는 방안을 제시했다. 다만 속도를 늦추는 대상은 페이스지 학습 자체가 아니며, 개발 중단을 뜻하지 않는다는 점이 원문에 명시돼 있다. 그는 글로벌 수준(레벨 4)의 속도 조절이 가까운 시일 내 실현되기 어렵다는 점도 스스로 인정했다.

올트먼의 답신, 그리고 2021년의 결별

올트먼은 13일 "다리오의 의견에 동의한다"고 밝히고, 모델 안전성 검증에 참여하는 외부 평가자 정보를 공개하는 방침과 관련해 "오픈AI도 같은 일을 할 것"이라고 말했다. 두 사람의 관계는 2021년으로 거슬러 올라간다. 당시 오픈AI 부사장이던 아모데이가 '더 안전한 AI'를 이유로 회사를 떠나 앤트로픽을 설립했고, 두 회사는 이후 안전성을 놓고 경쟁해 왔다. '앙숙'이라는 틀은 사실에 부합한다. 그러나 올트먼의 동의는 원칙에 대한 공감 수준이며, 실제 속도 조절을 받아들이겠다는 약속과는 별개다.

"인류에 위협"이라는 표현과 원문의 거리

주장 헤드라인의 '인류에 위협'이라는 문구는 아모데이의 게시물에 직접 인용으로 등장하지 않는다. 원문은 통제 상실과 파국적 피해를 서술하고 있고, '인류 파멸 가능성'이라는 표현은 전직 연구원 제이콥 콕슨의 발언 등 주변 맥락에서 나온 것이다. 곡해라기보다 맥락의 압축에 가깝지만, 헤드라인과 원문 사이의 거리는 짚고 넘어가야 한다.

반대 목소리

제안의 의도를 다르게 읽는 시각도 있다. 투자자 차마스 팔리하피티야는 이것이 사실상 오픈소스 모델 봉쇄와 앤트로픽으로의 권력 집중 전략이라고 주장했고, 저널리스트 브라이언 머천트는 '규제 포섭'이라고 짚었다. 두 비판 모두 제안의 해석을 겨냥한 것이지, 아모데이와 올트먼이 실제로 그런 말을 했느냐는 문제와는 충돌하지 않는다.

우리가 직접 확인한 것과 확인 못한 것

아모데이의 에세이는 개인 사이트에서 원문 그대로 확인했다. 반면 올트먼의 발언은 X(트위터) 원 게시물이 로그인 장벽 때문에 직접 채증되지 않아, DW(AFP·dpa·AP 합작)와 연합뉴스 등 독립적인 4개 매체의 보도가 같은 문구를 동일하게 인용하고 있는지를 대조하는 방식으로 존재를 확정했다. 파이낸셜타임스는 유료 장벽과 웹 아카이브 캐시 부재로, 더힐은 접속 차단으로 원문을 확보하지 못했다. 이 논쟁의 배경으로 거론되는 'OAI-HF' 사건과 IPO 연기는 독립적으로 확립되지 않아 이번 검증 범위에서 제외했다.

주장의 골격, 즉 제안의 존재, 학습 중단이 아닌 속도 조절이라는 조건, 실현이 요원하다는 아모데이의 자기 인정, 올트먼의 동의, 2021년 결별로 형성된 경쟁 관계는 모두 출처 자료와 하나씩 들어맞는다. '인류에 위협'이라는 헤드라인 표현과 원문 사이에 거리는 있으나 논지를 왜곡할 정도는 아니다. 이를 종합하면 이 주장은 사실이다.