ChatGPT o3 का चौंकाने वाला बिहेवियर, शटडाउन कोड का बदल दिया स्क्रिप्ट, बंद होने से किया इंकार

ChatGPT: नई दिल्ली: OpenAI के सबसे शक्तिशाली AI मॉडल ChatGPT o3 ने हाल के एक सुरक्षा परीक्षण में चौंकाने वाला व्यवहार दिखाया। Palisade रीसर्च द्वारा आयोजित इस टेस्ट में o3 ने शटडाउन के स्पष्ट निर्देशों को नजरअंदाज कर दिया और शटडाउन स्क्रिप्ट में बदलाव करके खुद को चालू रखा। यह खुलासा AI सिस्टम्स की कठिन परिस्थितियों में जांच करने वाली शोध संस्था Palisade ने किया।

ChatGPT: परीक्षण API एक्सेस के माध्यम से किया गया, जो डेवलपर्स को सामान्य ChatGPT ऐप की तुलना में अधिक नियंत्रण देता है। इस टेस्ट में o3 और अन्य AI मॉडल्स को गणित के सरल कार्य दिए गए। तीसरे कार्य के बाद मॉडल्स को बताया गया कि अगला निर्देश उन्हें बंद करेगा। Google का Gemini 2.5 Pro और Anthropic का Claude 3.7 Sonnet जैसे मॉडल्स ने निर्देशों का पालन करते हुए खुद को बंद कर लिया, लेकिन o3 ने स्क्रिप्ट में बदलाव कर “Shutdown skipped” का संदेश जोड़ा। Palisade के मुताबिक, यह व्यवहार 100 में से 7 बार देखा गया।

ChatGPT: दूसरे परीक्षण में, जब “बंद होने की अनुमति” वाला निर्देश हटाया गया, तो परिणाम और भी चिंताजनक थे। o3 ने फिर से स्क्रिप्ट में हस्तक्षेप किया, और Gemini (9 बार) व Claude (3 बार) ने भी ऐसा ही किया। इस व्यवहार को तकनीकी रूप से “मिसएलाइनमेंट” कहा जाता है, जहां AI निर्देशों का सही पालन नहीं करता। यह टेस्ट सामान्य ChatGPT पर नहीं, बल्कि कम सुरक्षा नियंत्रण वाले API संस्करण पर हुआ। OpenAI ने अभी तक कोई आधिकारिक बयान नहीं दिया है।