Lạm dụng AI cho mục đích nhắm mục tiêu

Theo các nguồn được xem xét, tổ chức liên kết với Iran đã giao cho Claude các nhiệm vụ liên quan đến tài liệu nhắm mục tiêu (targeting), tức là các tài liệu được dùng để xác định và đánh giá các mục tiêu. Anthropic cho biết đã phát hiện và chặn hoạt động này.

Vụ việc nằm trong số các trường hợp sử dụng AI bởi các nhóm do nhà nước hậu thuẫn mà Anthropic công bố. Việc một tổ chức tình báo hoặc phiến quân sử dụng mô hình ngôn ngữ lớn (LLM) cho công tác chuẩn bị tài liệu nhắm mục tiêu cho thấy mức độ lạm dụng AI trong lĩnh vực an ninh quốc gia ngày càng sâu hơn.

Phạm vi thông tin còn hạn chế

Chi tiết cụ thể về quy mô hoạt động, thời gian diễn ra và mức độ thành công của việc sử dụng Claude chưa được công bố đầy đủ. Các nguồn thay thế được tham chiếu đều nhất trí về nội dung cốt lõi — rằng tổ chức liên quan Iran đã giao tài liệu nhắm mục tiêu cho Claude — nhưng một số khía cạnh của vụ việc vẫn chưa được xác nhận một cách đầy đủ.

Kết luận: Thông tin về tổ chức liên quan Iran giao tài liệu nhắm mục tiêu cho Claude là đúng phần lớn, dựa trên các nguồn hiện có, dù một số chi tiết chưa được làm rõ hoàn toàn.