Lựa chọn gây tranh cãi

Anthropic, công ty AI của Mỹ đứng sau dòng mô hình Claude, đã chỉ định Accenture làm tổ chức tiến hành các đánh giá an toàn AI. Tuy nhiên, vì Accenture đồng thời là đối tác kinh doanh của Anthropic, giới phân tích cho rằng quan hệ lợi ích này có thể ảnh hưởng đến tính khách quan của kết quả đánh giá.

Lo ngại về tính độc lập

Việc một bên có quan hệ thương mại với doanh nghiệp được đánh giá đứng vai trò thẩm định đang làm dấy lên câu hỏi về cơ cấu quản trị an toàn AI. Các ý kiến chỉ ra rằng mô hình này khác với phương án sử dụng tổ chức hoàn toàn độc lập, và cuộc tranh luận về cách thiết lập quy trình đánh giá đáng tin cậy cho ngành AI vẫn chưa có hướng giải quyết.

Việc Anthropic chọn Accenture cho vai trò đánh giá an toàn AI cùng những tranh cãi về tính độc lập đi kèm là nhận định Đúng phần lớn.