ข้อเสนอจากผู้บุกเบิกอุตสาหกรรม

ผู้ร่วมก่อตั้ง Anthropic ระบุว่า ระบบ AI ขั้นสูงควรถูกบังคับให้ติดตั้งกลไกที่สามารถหยุดการทำงานได้ทันทีหากเกิดพฤติกรรมที่เบี่ยงเบนหรือก่ออันตราย โดยเห็นว่าการพึ่งพาความรับผิดชอบของบริษัทผู้พัฒนาโดยสมัครใจอาจไม่เพียงพอในการรับมือความเสี่ยงจาก AI รุ่นใหม่

แรงต้านจากฝั่งนโยบาย

ขณะเดียวกัน ข้อเสนอดังกล่าวยังเผชิญกับแรงต้านทางที่ชัดเจน เนื่องจากฝั่งรัฐบาลอังกฤษปฏิเสธแนวทางบังคับใช้ในลักษณะนี้ และทรัมป์ก็ออกมาคัดค้านข้อจำกัดด้าน AI ที่เข้มงวดขึ้น สะท้อนว่าแนวทางการกำกับดูแล AI ยังคงถูกถกเถียงอย่างรุนแรงในเวทีนโยบายระดับโลก

อย่างไรก็ตาม การที่ผู้ร่วมก่อตั้งบริษัท AI ตัวจริงในอุตสาหกรรมออกมาเรียกร้องกฎระเบียบที่เข้มขึ้นเอง ถือเป็นสัญญาณที่สะท้อนความกังวลภายในวงการ AI เรื่องความปลอดภัยในระยะยาว โดยรวมข้อเรียกร้องและบริบทการคัดค้านที่มีอยู่จริงเข้าด้วยกัน ประเด็นนี้จึงเป็นจริงส่วนใหญ่