Thông tin sai lệch suýt dẫn đến hành động quân sự

Theo CNN, thông tin sai do AI tạo ra đã khiến quân đội Mỹ nhầm lẫn về tình huống liên quan đến một tàu Trung Quốc, đưa giới quân sự Mỹ đến sát ngưỡng thực hiện hoạt động vũ lực. Báo cáo không nêu chi tiết thời điểm cụ thể hay mức độ chính thức của kế hoạch hành động, và các chi tiết về đơn vị hay cá nhân liên quan cũng chưa được xác nhận.

Sự việc được xác định là "đa phần đúng sự thật" (대체로 사실) sau khi rà soát 12 nguồn tin sơ cấp.

Rủi ro của AI trong ra quyết định quốc phòng

Trường hợp này minh họa mối đe dọa khi nội dung do AI sinh ra — vốn có thể trông đáng tin nhưng thiếu chính xác — được tiếp nhận như thông tin tình báo hoặc tình hình thực tế. CNN nhấn mạnh rằng trong bối cảnh căng thẳng trên biển liên quan đến Trung Quốc, một thông tin sai như vậy có thể đẩy các bên đến gần xung đột thực sự.

Vẫn còn những điểm chưa được làm rõ, bao gồm cơ chế khiến thông tin sai đi vào kênh ra quyết định và các biện pháp mà quân đội Mỹ đã hoặc sẽ áp dụng để ngăn tái diễn. CNN và các nguồn tin liên quan chưa công bố đầy đủ các chi tiết này.

Việc quân đội Mỹ suýt dùng vũ lực chống một tàu Trung Quốc chỉ vì thông tin sai do AI tạo ra là "Đúng phần lớn".