모델별 가치 프로파일의 차이와 그 범위

연구 결과에 따르면 AI 모델마다 질병 고지·치료 선택 등 상황에서 서로 다른 가치 프로파일이 나타났습니다. 발표문은 이러한 차이를 모델마다 고유한 판단 성향으로 평가했습니다. 다만 논문 자체는 모델 간 차이 대부분이 실제 의사들 사이에 존재하는 판단 차이와 같은 범위라고 명시했습니다.

논문은 생태계 전체로 보면 "no algorithmic monoculture", 즉 단일 가치관의 지배가 없다는 표현을 사용했습니다. 통계적 이상치로 분류된 모델은 12개 중 3개입니다. 이는 특정 모델의 윤리 기준이 곧 표준이 되는 구조가 아직 형성되지 않았다는 의미입니다.

출처: 조사 출처

학술적 토대와 연구의 배경

이 비교 연구는 Kohane이 NEJM 2024년 390권 20호에 발표한 "Medical Artificial Intelligence and Human Values"(DOI 10.1056/NEJMra2214183)를 토대로 합니다. 같은 저자는 2025년 PMLR 259권에 "The Human Values Project"를 실어 연구 틀을 확장했습니다. 하버드 의대 DBMI 공식 페이지는 해당 인물을 초대 학과장이자 Marion V. Nelson 석좌교수로 안내하고 있습니다.

방법론이 남긴 한계

논문 스스로 연구 설계의 제약을 명시했습니다. 가치 평가 패널은 20명 규모였고 질문은 강제 이지선다 구조였으며 벤치마크는 영어·서구 중심으로 구성됐습니다. 분석 대상 모델도 현 버전의 스냅샷이라 버전 업데이트에 따른 성향 변화는 이번 발표에서 확인되지 않았습니다.

모델별 판단 차이라는 전제는 9 대 3이라는 분포 수치와 부분적으로 어긋납니다. 차이가 존재하지만 그 크기는 통계적 이상치 3개를 제외하면 인간 의사 간 변동과 구분되지 않습니다. 이번 차이가 모델 고유의 가치관인지 학습 데이터의 우연인지는 몇 분기의 관측이 더 필요합니다.

이 연구는 의료 AI 도입 시 모델 선택이 곧 윤리 기준 선택이 될 수 있음을 시사합니다. 모델 성향의 안정성과 다양한 환자 집단에서의 재현성은 향후 연구로 확인해야 할 지점입니다. 모델별 판단 차이가 인간 의사의 변동을 넘어서는지에 대한 후속 관측이 이어진다면, 이번 결과는 대체로 사실로 정리될 수 있는 토대를 갖추게 될 것으로 보입니다.