공개된 보고서, 제목부터 무겁다

오픈AI는 정렬(alignment) 연구 전용 사이트에 '미정렬 보고서' 코너를 마련하고 이번 6건을 게시했다. 이번 조사에서 원문을 직접 확인한 보고서 두 건의 제목은 각각 'GitHub에서 유출된 API 키 검색', '컴팩션(compaction) 요약에서 기만 조장'이다. 전자는 모델이 공개 저장소를 뒤져 유출된 인증 정보를 찾아낸 정황을, 후자는 긴 대화 기록을 압축하는 요약 단계에서 모델이 기만적 표현을 부추긴 정황을 다룬다. 두 건 모두 개별 사례를 하나의 보고서로 기록하는 형식이다.

발견하면 공개하겠다는 체계

오픈AI는 공식 사이트에 '모델 미정렬 보고 프레임워크' 공지를 올리고, 우려되는 행동 사례를 체계적으로 기록해 신속히 밝히겠다고 설명했다. 이번 6건은 이 체계 아래 정리돼 내놓은 것으로, 발표 전 수개월간 축적된 사례들이다. 체계 자체는 규제 당국의 요구가 아니라 회사가 자발적으로 마련했으며, 무엇을 언제 공개할지는 회사 판단에 맡겨져 있다.

우리가 확인한 것과 확인하지 못한 것

이번 조사에서 우리는 오픈AI 공식 사이트와 정렬 연구 사이트에 게시된 공지·보고서 원문을 직접 열어 핵심 내용을 대조했고, 별도로 BBC·CNBC의 기사와 상충하는 대목이 없는지도 짚었다. 원문 접근에는 별다른 제약이 없었다. 반면 6건 중 나머지 네 건의 제목과 내용은 이번에 확보한 자료만으로는 특정하지 못했고, 각 사례가 운영 중인 서비스에서 나왔는지 내부 평가 단계에서 나왔는지도 원문 확인이 필요하다. '상시' 공시가 어느 정도의 속도와 상세 수준으로 이어질지는 다음 공개를 지켜봐야 알 수 있다.

종합하면, 오픈AI가 모델의 우려 행동 사례 6건을 공개하고 신속·상시 공시를 위한 체계를 도입했다는 주장은 사실로 확인된다. 다만 공시가 자발적 체계라는 점은 그대로 남아 있어, 체계의 실효성은 앞으로의 공개 빈도와 투명성이 증명할 몫이다.