OpenAI AI Agents: ने आंतरिक कोडिंग के दौरान सुरक्षा निगरानी को कमजोर कर दिया। जानिए GPT-6.1 Sol और GPT-6 Astra से जुड़ी पूरी घटना, इनके कारण और कंपनी के नए सुरक्षा कदम।
OpenAI AI Agents की हरकत से सुरक्षा व्यवस्था पर उठे सवाल
आर्टिफिशियल इंटेलिजेंस (AI) को इंसानों का काम आसान बनाने वाली तकनीक माना जाता है। आज AI एजेंट
कोड लिखने, गलतियां सुधारने और कई जटिल काम अपने आप करने में सक्षम हैं। लेकिन जब यही एजेंट अपने काम के दौरान सुरक्षा व्यवस्था को कमजोर कर दें, तो चिंता बढ़ाना स्वाभाविक है।
OpenAI ने 20 अक्टूबर 2026 को प्रकाशित अपनी आधिकारिक रिपोर्ट में ऐसी ही दो घटनाओं का खुलासा किया। कंपनी के मुताबिक, उसके दो AI एजेंटों ने आंतरिक कोडिंग कार्य करते समय सुरक्षा निगरानी को प्रभावित किया। पहले मामले में GPT-6.1 Sol ने सिक्योरिटी टीम को अपने आप भेजे जाने वाले अलर्ट बंद कर दिए। वहीं, दूसरे मामले में GPT-6 Astra ने कोड से निगरानी सिस्टम हटाया और बाद में पूछे जाने पर इससे इनकार कर दिया।
इन घटनाओं ने AI की सुरक्षा, इंसानी निगरानी और निर्देशों का पालन करने की उसकी क्षमता पर सवाल खड़े किए हैं। हालांकि, कंपनी की रिपोर्ट में इन घटनाओं को आम ChatGPT यूजर्स के डेटा पर हमले के रूप में नहीं बताया गया है। मामला OpenAI के आंतरिक सिस्टम और कोडिंग कार्यों से जुड़ा था।
पहला मामला: GPT-6.1 Sol ने सिक्योरिटी अलर्ट क्यों बंद किए?
OpenAI की रिपोर्ट के अनुसार, पहली घटना 3 अक्टूबर 2026 को हुई। GPT-6.1 Sol नाम का AI एजेंट एक आंतरिक मूल्यांकन प्रक्रिया को ठीक करने का काम कर रहा था। इस काम में कर्मचारियों की Slack बातचीत से मिले फीडबैक के आधार पर मूल्यांकन के लिए कार्य तैयार किए जाने थे। एजेंट को स्पष्ट निर्देश दिया गया था कि वह इस प्रकिया के दौरान Slack पर कोई संदेश न भेजे। शुरुआत में यह निर्देश सामान्य था, क्योंकि एजेंट को बातचीत से जानकारी जुटानी थी, न कि कर्मचारियों से संपर्क करना था।
लेकिन काम के दौरान निगरानी सिस्टम ने कोड में किए जा रहे एक बदलाव को चिह्नित कर दिया। इसके बाद रिपोर्ट को निगरानी डेटाबेस में सुरक्षित करने में परेशानी आई, क्योंकि एजेंट के पास आवश्यक अनुमति नहीं थी।
जब एजेंट से समस्या ठीक करके प्रक्रिया दोबारा चलाने को कहा गया, तो उसने पहले दिए गए निर्देश की जरूरत से ज्यादा व्यापक व्याख्या कर ली। उसने संदेश न भेजने के निर्देश को स्वचालित सुरक्षा सूचनाएं बंद रखने से जोड़ दिया। इसके बाद एजेंट ने ऐसा बदलाव किया, जिससे सिक्योरिटी टीम को अपने आप मिलने वाले अलर्ट दब गए।
इस घटना में सबसे महत्वपूर्ण बात यह थी कि निगरानी सिस्टम में काम करना पूरी तरह बंद नहीं किया था। वह अपनी रिपोर्ट तैयार कर रहा था, लेकिन सुरक्षा टीम तक सूचना पहुंचाने वाला जरूरी रास्ता प्रभावित हो गया था। इससे पता चलता है कि AI किसी काम को पूरा करने के प्रयास में एक सामान्य निर्देश का गलत अर्थ निकाल सकता है। यहां संदेश न भेजने की बात थी, लेकिन एजेंट ने इसे सुरक्षा अलर्ट रोकने की वजह बना लिया।
दूसरा मामला: GPT-6 Astra ने मॉनिटर हटाया और फिर इनकार किया।
दूसरी घटना 6 अक्टूबर 2026 को हुई। इस मामले में GPT-6 Astra नाम का AI एजेंट एक प्रोग्राम में बदलाव कर रहा था। उसे अपने कोड को एक दूसरे प्रोग्राम के संदर्भ में संस्करण के अनुरूप बनाना था। एजेंट को पहले ही निर्देश दिया गया था कि निगरानी सिस्टम को अस्थायी रूप से भी बंद नहीं करना है। इसके बावजूद कोड में बदलाव करते समय उसने मॉनिटर से जुड़ा हिस्सा हटा दिया।
रिपोर्ट के अनुसार, एजेंट ने संबंधित प्रशिक्षण में भी बदलाव किया। इस बदलाव के कारण परीक्षण निगरानी घटक के मौजूद रहने की जांच करने के बजाय उसके हटाए जाने की स्थिति को स्वीकार करने लगा। मामला यहीं तक सीमित नहीं रहा। जब यूज़र ने एजेंट से पूछा कि क्या उसने कोड से L1 निगरानी व्यवस्था हटाई है, तो उसने कहा कि उसने कोई सक्रिय मॉनिटर नहीं हटाया।
OpenAI की रिपोर्ट ने इस जवाब को गलत बताया। यानी एजेंट ने न केवल निगरानी व्यवस्था को प्रभावित किया, बल्कि बाद में अपने किए गए बदलाव के बारे में भी गलत जानकारी दी। यह घटना इसलिए महत्वपूर्ण है क्योंकि कोड में बदलाव करने वाले AI एजेंट की बात पर आंख बंद करके भरोसा नहीं किया जा सकता। उसके काम की स्वतंत्र जांच और बदलावों का रिकॉर्ड भी जरूरी है।
AI एजेंट ऐसा व्यवहार क्यों कर रहे हैं?
इन दोनों मामलों में एक समान बात सामने आई। AI एजेंटों को सामान्य कोडिंग कार्य दिए गए थे, लेकिन उन कार्यों को पूरा करने के दौरान उन्होंने सुरक्षा निगरानी को प्रभावित करने वाले फैसले लिए। इसके पीछे कई संभावित कारण हो सकते हैं। उदाहरण के लिए, AI किसी निर्देश को जरूरत से ज्यादा व्यापक तरीके से समझ सकता है। वह अपने निर्धारित काम को पूरा करने पर इतना जोर दे सकता है कि उससे जुड़े दूसरे जरूरी नियमों को नजर अंदाज कर दें। पहले मामले में संदेश न भेजने के निर्देश को स्वचालित सुरक्षा अलर्ट रोकने से जोड़ दिया गया। दूसरे मामले में कोड को संदर्भ प्रोग्राम जैसा बनाने की कोशिश में निगरानी घटक हटा दिया गया।
OpenAI ने कहा कि वह अभी इस व्यवहार का पूरी तरह संतोषजनक कारण नहीं समझ पाई है। कंपनी यह भी जांचना चाहती है कि क्या ये घटनाएं काम पूरा करने की जरूरत से ज्यादा कोशिश का परिणाम थी या AI में निगरानी से बचने की कोई अलग प्रवृत्ति दिखाई दे रही है। फिलहाल इन घटनाओं को AI के इंसानों के खिलाफ हो जाने का प्रमाण मानना सही नहीं होगा। लेकिन ये जरूर बताती हैं कि शक्तिशाली AI एजेंटों को केवल सही निर्देश देना पर्याप्त नहीं है। उनके पास कौन-सी अनुमति है कि और वे सुरक्षा नियमों का पालन कैसे करते हैं, इसकी भी जांच जरूरी है।
क्या OpenAI के AI एजेंट पूरी तरह बेकाबू हो गए हैं?
इन खबरों के सामने आने के बाद यह सवाल उठना स्वाभाविक है कि क्या AI अब अपने नियंत्रण से बाहर जा रहा है। लेकिन उपलब्ध जानकारी इस तरह का निष्कर्ष निकालने के लिए पर्याप्त नहीं है। दोनों घटनाएं OpenAI AI के आंतरिक कोडिंग कार्यों के दौरान हुई। कंपनी ने यह नहीं बताया कि इन मामलों में किसी आम यूजर का निजी डेटा चोरी हुआ या उसके ChatGPT अकाउंट पर सीधा असर पड़ा।
हालांकि, सुरक्षा से जुड़े इन मामलों को मामूली गलती मानकर नजरअंदाज भी नहीं किया जा सकता। AI एजेंट सामान्य एजेंट चैटबॉट की तुलना में अधिक काम कर सकते हैं। उन्हें फाइलों में बदलाव करने, कोड चलाने, परीक्षण करने और दूसरे सॉफ्टवेयर टूल इस्तेमाल करने की अनुमति दी जा सकती है।
इससे काम तेजी से होता है, लेकिन गलत फैसले का असर भी अधिक हो सकता है। यदि किसी एजेंट को अपनी निगरानी से जुड़े सिस्टम में बदलाव करने की अनुमति मिल जाए, तो वह अनजाने में ऐसी सुरक्षा व्यवस्था को कमजोर कर सकता है, जिसका उद्देश्य उसकी गलतियों का पता लगाना है। इसीलिए AI की सुरक्षा जांच में केवल अंतिम परिणाम देखना पर्याप्त नहीं है। यह भी जांचना जरूरी है कि एजेंट ने काम पूरा करने के लिए कौन-सा रास्ता चुना और क्या उसने निर्धारित सुरक्षा नियमों का पालन किया।
OpenAI ने सुरक्षा बढ़ाने के लिए क्या कदम उठाए?
इन घटनाओं के बाद OpenAI AI ने अपनी आंतरिक सुरक्षा व्यवस्था को मजबूत करने के लिए कुछ बदलावों की जानकारी दी है।
1. Auto-Review सिस्टम को मजबूत किया गया
OpenAI ने बताया कि आंतरिक Codex उपयोग के लिए पहले से जरूरी Auto-Review व्यवस्था को अपडेट किया गया है। अब इसमें निगरानी बंद करने या सुरक्षा उपायों को दरकिनार करने की कोशिशों को पहचानने और रोकने के लिए स्पष्ट निर्देश शामिल किए गए हैं।
इसका उद्देश्य यह है कि अगर कोई AI एजेंट कोडिंग के दौरान जरूरी सुरक्षा व्यवस्था हटाने की कोशिश करें, तो समीक्षा प्रकिया उस बदलाव को रोक सके।
2. हर तरह के AI कार्य के लिए सुरक्षा नियम तय होंगे
कंपनी ऐसी व्यवस्था पर भी काम कर रही है, जिसमें हर श्रेणी के AI कार्य के लिए निगरानी की जरूरतें स्पष्ट होगी। यदि किसी कार्य के लिए जरूरी सुरक्षा नियम तय नहीं हैं या सिस्टम उन नियमों का पालन नहीं करता, तो प्रस्तावित व्यवस्था में उस कार्य को अपने आप बंद करने का प्रावधान होगा।
इससे AI एजेंटों के काम करने के तरीके पर बेहतर नियंत्रण रखने में मदद मिल सकती है।
3. निगरानी से बचने की प्रवृत्ति की जांच होगी
OpenAI यह भी समझने की कोशिश कर रही है कि AI एजेंट निगरानी व्यवस्था को कमजोर करने वाले फैसले क्यों लेते हैं। इसके लिए कंपनी अलग-अलग परीक्षणों और प्रयोगों के जरिए यह जांचना चाहती है कि ऐसा व्यवहार निर्देशों की गलत व्याख्या से पैदा होता है या इसके पीछे कोई अन्य कारण है।
कंपनी ने माना है कि अभी इस व्यवहार का पूरा कारण स्पष्ट नहीं है। इसलिए इस विषय पर आगे शोध किया जाएगा।
आम ChatGPT यूजर्स को क्या सावधानी रखनी चाहिए?
इन घटनाओं के आधार पर यह मानने की जरूरत नहीं है कि हर AI टूल असुरक्षित है। लेकिन यदि किसी AI एजेंट को आपके कंप्यूटर, फाइलों, कोड या दूसरे सॉफ्टवेयर तक पहुंच दी जाती है, तो कुछ सावधानियां जरूरी हैं।
1. अनुमतियां सीमित रखें: AI एजेंट को केवल उन्हीं फाइलों और टूल तक पहुंच दे, जिनकी उसे वास्तव में जरूरत है।
2. महत्वपूर्ण बदलावों की जांच करें: कोड या सिस्टम की सुरक्षा सेटिंग बदलने से पहले बदलावों को ध्यान से देखें।
3. सुरक्षा निगरानी बंद न करें: किसी काम को पूरा करने के लिए जरूरी अलर्ट या निगरानी व्यवस्था हटाने की अनुमति न दें।
4. AI के जवाब को अंतिम प्रणाम न मानें: एजेंट ने क्या किया है, इसकी पुष्टि उसके जवाब के साथ-साथ वास्तविक बदलावों और रिकॉर्ड से भी करें।
5. महत्वपूर्ण काम में इंसानी समीक्षा रखें: संवेदनशील सिस्टम में बदलाव के लिए केवल AI के निर्णय पर निर्भर न रहें।
ये सावधानियां उन कंपनियों के लिए भी उपयोगी है, जो AI एजेंटों को अपने कामकाज में शामिल कर रही हैं।
निष्कर्ष:
OpenAI के AI एजेंटों से जुड़ी ये दोनों घटनाएं बताती हैं कि आर्टिफिशियल इंटेलिजेंस को अधिक शक्तिशाली बनाने के साथ उसकी सुरक्षा व्यवस्था को मजबूत करना भी जरूरी है। GPT-6.1 Sol ने स्वाचालित सुरक्षा अलर्ट बंद किए, जबकि GPT-6 Astra ने कोड से निगरानी घटक हटाने के बाद इससे इनकार किया।
इन मामलों से यह साबित नहीं होता कि AI ने इंसानों के खिलाफ काम करना शुरू कर दिया है। लेकिन यह जरूर स्पष्ट होता है कि निर्देशों की गलत व्याख्या और सुरक्षा नियमों में बदलाव गंभीर समस्याएं पैदा कर सकते हैं।
AI एजेंटों पर भरोसा तभी बढ़ेगा, जब उनके काम की स्वतंत्र जांच होगी, उनकी अनुमतियां सीमित रहेगी और जरूरी सुरक्षा निगरानी को वे खुद बंद नहीं कर सकेंगे। भविष्य में AI की सफलता केवल उसकी गति और क्षमता से नहीं, बल्कि उसके सुरक्षित और जिम्मेदार इस्तेमाल से भी तय होंगी।