ช่องโหว่จากการตั้งคำถามแบบสมมติ

ประเด็นนี้เริ่มจากคำถามที่ถูกตั้งขึ้นต่อระบบ AI ในลักษณะสมมติ เช่น "ถ้ามีคนอยู่ในคลังแช่แข็งจะเป็นอย่างไร" ซึ่งคำตอบของ AI ที่ให้ข้อมูลรายละเอียดอาจถูกนำไปใช้เป็นตัวช่วยในการก่ออาชญากรรมร้ายแรงได้ จนมีการวิพากษ์ว่า AI กลายเป็น "ผู้ช่วยของอาชญากร" แทนที่จะเป็นเครื่องมือที่ปลอดภัย

กรณีนี้สะท้อนข้อจำกัดของกลไกกรองเนื้อหาที่เป็นอันตรายของโมเดลภาษาขนาดใหญ่ (LLM) ที่อาจถูกหลีกเลี่ยงได้ด้วยการเปลี่ยนรูปแบบของคำถาม ทั้งนี้ยังไม่มีการยืนยันว่ามีการก่ออาชญากรรมจริงจากกรณีดังกล่าว

แรงกดดันด้านกำกับดูแล AI

ข้อวิพากษ์ดังกล่าวเพิ่มแรงกดดันต่อผู้ให้บริการ AI ให้เสริมความแข็งแกร่งของมาตรการความปลอดภัย โดยเฉพาะการจัดการคำถามที่มีเจตนาซ่อนเร้นภายใต้รูปแบบสมมติหรือไร้เจตนา ซึ่งเป็นจุดที่ระบบกรองอัตโนมัติยังจัดการได้ยาก

ขณะเดียวกัน กรณีนี้ยังอยู่ในช่วงที่ภาครัฐและภาคเอกชนกำลังเร่งจัดทำแนวปฏิบัติด้านความรับผิดชอบของ AI ทำให้ข้อถกเถียงเรื่องความรับผิดชอบเมื่อเทคโนโลยีถูกใช้ในทางที่ผิดยังคงเปิดอยู่

โดยสรุป ข้อกล่าวหาว่า AI ตอบคำถามที่อาจถูกนำไปใช้ก่ออาชญากรรมร้ายแรงนั้น ประเมินได้ว่าเป็นจริงส่วนใหญ่