असामान्य व्यवहार की निगरानी पर फोकस

OpenAI के अनुसार, कंपनी 'नियंत्रण से बाहर AI' से जुड़े जोखिमों का आकलन करने और AI मॉडल के असामान्य व्यवहार को पकड़ने के लिए नियमित रूप से रिपोर्ट प्रकाशित करेगी। इस पहल का लक्ष्य है कि AI सिस्टम के मानव नियंत्रण से बाहर होने के संकेतों को समय रहते पहचाना जा सके।

अलाइनमेंट पर आधारित रिपोर्ट

कंपनी ने अपने alignment.openai.com पोर्टल के माध्यम से इस संबंधी जानकारी का एक स्रोत-चार्ट भी सार्वजनिक किया है। यह चार्ट AI मॉडल के व्यवहार से जुड़े मूल्यांकन स्रोतों का विवरण देता है।

निष्कर्ष

OpenAI की यह पहल दर्शाती है कि बड़ी AI कंपनियां अब सुरक्षा और अलाइनमेंट के मुद्दों को नियमित जनसांख्यिकीय पारदर्शिता के जरिए संबोधित कर रही हैं। यह दावा कि OpenAI ने 'नियंत्रण से बाहर AI' की नियमित रिपोर्ट और असामान्य व्यवहार की निगरानी को सुदृढ़ करने की घोषणा की है, Verdict: सही