AI · SEMICONDUCTOR · FACT CHECK

SKD WIRE

기사 · 발행 2026-10-14 19:09

오픈AI, 추론 과정 감시 어려운 루프 트랜스포머 적용 모델에 안전 장치 보강 착수

오픈AI, 추론 과정 감시 어려운 루프 트랜스포머 적용 모델에 안전 장치 보강 착수
이미지 출처: 조사 출처

오픈AI가 추론 내부 감시가 어렵다는 지적이 제기된 루프 트랜스포머 기반 모델의 안전 확보에 나섰습니다. 회사는 14일 배포 안전 페이지를 통해 통제 장치를 공개하며 감시 저하 우려에 대응했습니다.

루프 트랜스포머, 적용은 복수 단서 공식 명시는 없어

루프 트랜스포머 적용 사실은 복수 매체의 보도와 마이크로소프트 페이지 유출로 뒷받침됩니다. 다만 오픈AI 공식 문서에는 이 기술명이 명시되지 않았습니다. 페이월로 차단된 The Information 기사와 로그인이 필요한 최고과학자 게시물은 본문 대신 2차 인용으로만 열람됐습니다.

공식 문서가 인정한 감시 저하

오픈AI 시스템 카드와 배포 안전 페이지(deploymentsafety.openai.com)에 따르면 회사는 추론 과정 판독 가능성이 제한적으로 저하될 수 있음을 인정했습니다. 회사는 제한적 사용과 판독 가능성 유지를 원칙으로 내세우며 완화 조치를 강조했습니다. 다만 루프 구조에서는 감시자가 읽을 수 있는 추론 사슬이 축소되는 구조적 문제가 남습니다.

전문가들은 업계 레드라인 경고

Buck Shlegeris는 루프 규모 확대 시 추론 사슬 감시가 완전히 무력화되는 선택지라고 지적했습니다. Ryan Greenblatt는 여기서 멈춰달라고 전했고, Steven Adler는 업계 레드라인이 침식되고 있다고 평가했습니다. 이 경고문들은 TechCrunch와 Fortune을 통해 전재됐습니다.

통녀와 어긋나는 공식 입장

루프 트랜스포머가 적용됐다는 전제만으로 안전 장치가 없다고 보기는 어렵습니다. 오픈AI는 GPT-6.1 Sol 부록과 계기 기사를 포함한 채증 문서에서 안전 평가 절차를 병행했다고 밝혔습니다. 다만 마이크로소프트 Foundry 페이지의 관련 문구는 삭제·수정돼 원문이 커뮤니티 캡처로만 남아 있어 원본 대조가 아직 확인되지 않았습니다.

루프 트랜스포머 적용 여부는 공식 확정 단서가 하나 빠진 상태이며, 오픈AI의 완화 노력은 공식 문서로 확인됩니다. 루프 구조 감시 저하라는 구조적 우려와 안전 보강이라는 대응이 병행되고 있다는 점에서 이번 주장은 대체로 사실입니다. 향후 The Information 원문 공개와 오픈AI 공식 기술 문서 명시 여부, 그리고 다음 플래그십 모델 시스템 카드의 감시 관련 문구가 확인할 지점입니다.

검증 자료
1차 출처 12건 · 전체 검증 과정: 판정 리포트 →