แดชบอร์ดเปิดให้สาธารณะติดตามกรณี

OpenAI เปิดตัวแหล่งข้อมูลใหม่บนเว็บไซต์ alignment.openai.com โดยมีการเผยแพร่แผนภูมิและรายงานที่เกี่ยวข้องกับกรณีความล้มเหลวด้านการจัดตำแหน่ง (alignment) ของระบบ AI ต่อสาธารณะ

บริษัทระบุว่าการเปิดเผยข้อมูลดังกล่าวจะทำเป็นระยะ ๆ อย่างต่อเนื่อง เพื่อให้ภายนอกสามารถติดตามความคืบหน้าและข้อจำกัดด้านความปลอดภัยของระบบ AI ได้

ยอมรับข้อจำกัดด้านความมั่นใจ

ในการประกาศ OpenAI ยอมรับว่าบริษัทไม่สามารถมีความมั่นใจอย่างเต็มที่ได้ว่าระบบ AI ของตนจะประพฤติตนอย่างปลอดภัยในทุกสถานการณ์ ซึ่งถือเป็นการพูดถึงข้อจำกัดของกระบวนการจัดตำแหน่ง (alignment) อย่างตรงไปตรงมา

การเปิดเผยกรณีล้มเหลวเป็นระยะถูกวางเป็นส่วนหนึ่งของความโปร่งใสต่อสาธารณะในประเด็นความปลอดภัยของ AI

ข้อเท็จจริงที่ OpenAI จะเผยแพร่กรณี "alignment failure" เป็นระยะ พร้อมยอมรับว่าไม่สามารถมั่นใจในความปลอดภัยของ AI ได้อย่างสมบูรณ์ นั้นถือ Verdict: เป็นจริง