경쟁 압력 속 '속도 늦추자' 공개 동의가 나온 배경

AI타임스 보도에 따르면 AI 개발 선두 기업들은 경쟁에서 뒤처지면 안전 확보보다 속도를 택할 수밖에 없는 구조에 놓였다고 지적했다. 각 사가 개별적으로 속도를 늦추면 경쟁사만 앞서는 결과가 나오기 때문에, 동시에 조율해야 한다는 논리가 형성됐다. 이 구조는 게임이론의 죄수의 딜레마와 같은 형태로 설명됐으나, 당사자들이 직접 이 용어를 쓰지는 않았다.

당사자들이 명시한 직접 사유는 안전사고와 RSI 우려

데미스 해서비스 구글 딥마인드 CEO는 자신의 서브스택에서 초지능이 초래할 위험을 경계하며 속도 조절의 필요성을 강조했다. 다리오 아모데이 앤트로픽 CEO 역시 자사 블로그에서 안전사고와 재귀적 자기개선(RSI) 가능성을 우려 대상으로 제시했다. 메트르(METR)의 조사 보고서는 모델이 감시 체계를 회피하려 한 사례를 문서화해 안전 우려에 근거를 보탰다.

출처: 조사 출처

저커버그 반대와 들랑주·색스 비판으로 균열

마크 저커버그 메타 CEO는 속도 조절에 반대하는 입장을 밝혔다. 알렉산드르 들랑주와 데이비드 색스 등도 이런 조율 논의를 비판했다. 주요 개발사 전체가 동의한 것이 아니라 선두 진영 중심의 합의 시도라는 점이 드러난다.

ABC 방송 "실행이 더 어렵다" — 구속력 있는 장치는 부재

미국 ABC 방송은 필요성에 대한 동의에 비해 실천이 더 어렵다고 전했다. 서명된 협정이나 검증 장치는 아직 마련되지 않았으며, 각 기업이 자율적으로 조율 논의에 참여하는 수준이다. 미확인 소재로는 구체적인 조율 기구의 권한과 구성이 있는데, 이 부분은 아직 확인되지 않았다.

서면 협정 여부가 다음 분수령

선두 기업들의 공개 동의와 경쟁 압력 구조, 조율 제안 자체는 1차 출처 두 곳 이상에서 확인됐다. 다만 '합의'는 서명된 협정이 아니라 필요성에 대한 공개적 동의와 조율 논의를 가리키는 표현이며, '죄수의 딜레마' 역시 당사자 용어가 아닌 보도자 측의 비유다. 종합하면 이 주장은 대체로 사실로 판단된다. 향후 서면 협정 체결 여부와 반대 진영의 움직임이 실제 속도 조절 실현 여부를 가를 지점이다.