발표가 담은 발견 — 벡터 개입으로 행동 표적 수정

연구팀에 따르면 분석 대상 모델 7종에서 개념에 해당하는 벡터를 개입시켜 행동을 표적으로 수정하는 데 성공했습니다. 논문에 소개된 사례에서는 '영리한 의사'를 가리키는 벡터 조작으로 모델의 출력이 '영리한 변호사' 쪽으로 옮겨갔습니다. 연구진은 전체 표현을 형태 식으로 대체해도 모델 행동이 크게 달라지지 않는 점을 확인했다고 전했습니다. 이는 모델 내부에 개념 수준의 구조가 남아 있음을 시사하는 결과입니다.

출처: 조사 출처

헤드라인이 놓친 단서 — '구현'은 근사를 뜻합니다

논문 본문의 표현은 'closely approximated'이며, 대체 후에도 행동이 'largely unchanged'라는 절제된 서술에 머뭅니다. Tom McCoy 예일대 언어학과 조교수는 "우리 연구는 표면만 긁은 수준"이라고 강조했습니다. Yale News도 챗봇이 인간처럼 '생각'한다는 증명은 아니라고 명시했습니다. AI타임스 보도 역시 인간의 사고 방식과 완전히 동일함을 입증한 것은 아니라는 단서를 스스로 덧붙였습니다.

예일 단독이 아니라 예일 주도 공동 연구

Yale News 발표문에 따르면 이 연구는 예일이 주도했지만 Microsoft의 Soulos·Smolensky와 NYU의 Linzen이 공동 저자로 참여했습니다. 통념과 어긋나는 지점도 있습니다 — 기사 도입부에서 ChatGPT와 Claude가 언급되었으나 분석된 7개 모델은 모두 오픈웨이트로, 상용 챗봇 자체는 연구 대상이 아니었습니다. 또한 이 논문은 동료심사를 거치지 않은 프리프린트이며, Yale News도 이를 명시했습니다.

McCoy 교수의 전문 분야가 신경망 벡터 표현 속 통사 구조라는 점은 연구 귀속의 신뢰를 높여주지만, 벡터 표현이 인간의 상징적 사고와 어디까지 동형인지는 이번 결과만으로 닫히지 않습니다. 동료심사 통과 여부와 더 다양한 모델·과제에서의 재현이 차례로 확인되어야 하며, 지금 단계의 발견은 대체로 사실로 읽되 '구현'이라는 표현은 근사의 증거 제시로 받아들이는 것이 타당합니다.