ज़्यादातर सही
एआई सुरक्षा क्षेत्र में काम कर रहे कुछ शोधकर्ताओं के बीच "AI के नियंत्रण से बाह होने और सामाजिक खतरे" से संबंधित चिंताओं के बाद बीमारी की छुट्टी और इस्तीफ़ों की घटनाएँ सामने आई हैं। ब्रिटिश सरकार की एआई सुरक्षा संस्था (AISI) सहित क्षेत्र की ओर ध्यान आकर्षित हुआ है, हालाँकि इन घटनाओं की आधिकारिक पुष्टि अभी तक उपलब्ध नहीं है।
फाइनेंशियल टाइम्स (FT) की हालिया रिपोर्ट के अनुसार, एआई सुरक्षा और मॉडल मिस-एलाइनमेंट (मॉडल का उद्देश्य से भटकना) शोध से जुड़े शोधकर्ताओं में मानसिक तनाव और व्यावसायिक थकान के कारण बीमारी की छुट्टी लेने और नौकरी छोड़ने के मामले देखे गए हैं। शोधकर्ता AI के तेजी से विकास और उसके संभावित सामाजिक खतरों के बीच की खाई को लेकर निरंतर दबाव का सामना कर रहे हैं।
इस संदर्भ में मॉडल मिस-एलाइनमेंट रिपोर्टिंग फ्रेमवर्क जैसी पहलें भी सामने आई हैं, जो LLM विकासकर्ताओं के लिए मॉडल के विचलन की रिपोर्टिंग की संरचनाएँ तैयार करने का प्रयास है।
हालाँकि, ये घटनाएँ अभी तक किसी आधिकारिक स्रोत द्वारा पुष्ट नहीं हैं। बतौर एकल श्रोत, FT की रिपोर्टिंग पर निर्भर रहना इन दावों को पूर्ण रूप से "तथ्य" के रूप में स्थापित करना कठिन बनाता है। प्राथमिक स्रोतों की समीक्षा के बावजूद, प्रभावित शोधकर्ताओं या संबंधित संस्थाओं की ओर से सीधे बयान उपलब्ध नहीं है।
एआई सुरक्षा संस्थाओं और मॉडल डेवलपर्स पर दबाव बढ़ रहा है कि वे न केवल मॉडल सुरक्षा के तकनीकी पहलुओं, बल्कि शोधकर्ताओं के कल्याण पर भी ध्यान दें।
इन घटनाओं के संकेत विश्वसनीय हैं, लेकिन आधिकारिक पुष्टि की कमी को ध्यान में रखते हुए, इस दावे का निष्कर्ष "ज़्यादातर सही" है।