앤트로픽을 떠난 연구원 제이콥 콕슨이 10월 5일 뉴욕시의회 AI 청문회에서 증언하며 인공지능이 통제권을 잃을 가능성과 인류 멸종 가능성을 경고했습니다. 그는 증언에서 인공지능 개발 현황을 "자기 개선형 초지능을 향해 곧장 달리며 우리의 목숨을 걸고 도박하고 있다"고 표현했습니다.
콕슨의 발언은 TechCrunch와 AP 통신 등이 취지를 전하며 보도했습니다. 원문 표현은 "자기 개선형 초지능을 향해 곧장 달리며 우리의 목숨을 걸고 도박한다"는 문장으로, 국내 보도에 인용된 구절과 일치합니다. 콕슨 본인은 앤트로픽 근무 기간을 3년이라고 말했으며, 가디언이 5년으로 표기한 부분은 본인 발언과 어긋납니다. 헤드라인은 그의 발언을 인용하는 형태였고, 멸종 가능성 자체가 입증된 것은 아닙니다.

출처: 조사 출처
가디언과 TechCrunch가 전한 바에 따르면 앤트로픽 현직 연구원 에번 후빙거는 콕슨의 경고에 공개적으로 동조하며, 10년 이내 인류 수준을 넘는 인공지능이 나올 확률을 스스로 10% 이상으로 평가했습니다. 이는 콕슨의 발언이 떠난 사람의 개인 소견으로만 남지 않았음을 보여주는 대목입니다. 다만 이들 수치 역시 개인의 확률 추정일 뿐 합의된 분석 결과는 아닙니다.
앤트로픽 레드팀장 로건 그레이엄은 같은 청문회에서 "과하게 신중하다는 비판을 받아왔다"며 최강 모델의 공개를 보류했다고 증언했습니다. 오픈AI의 모건 드와이어는 위험 정량화 질문에 "모른다, 그리고 그 어떤 확률도 수용 가능하지 않다"고 답변했습니다. 두 기업 모두 위험의 존재 자체를 부정하지 않는 입장을 취했습니다.
가디언 보도에는 업계의 멸종 경고가 제품을 전능해 보이게 하는 마케팅이라는 회의론도 함께 전해졌습니다. 경고 발언과 회의론이 같은 시점에 공존하는 가운데, 콕슨의 증언이 실제 정책 변화로 이어질지는 아직 확인되지 않았습니다. 한국에서도 강원도민일보가 10월 6일 JTBC와 같은 내용을 전하며 국내 보도가 이어졌습니다.
개인의 경고 발언이 현직 연구원의 동조와 기업 측의 신중한 대응 증언까지 얻으며 무게를 더한 점, 그리고 멸종 가능성이 입증된 것이 아니라는 한계까지 감안하면, 이번 증언과 보도의 내용은 사실에 해당합니다. 앞으로 확인할 지점은 이 경고가 뉴욕시의회 등 규제 논의에 실제 반영되는지입니다.