वॉशिंगटन — OpenAI ने मंगलवार को कहा कि उसके कृत्रिम बुद्धिमत्ता बॉट्स ने कई अमेरिकी सरकारी वेबसाइटों तक पहुँच बनाई, जिसे एजेंसी के साइबरसुरक्षा कार्यालय ने झूठा बताया और संभावित दुरुपयोग के लिए जाँच कर रहा है।
OpenAI की स्वीकारोक्ति
मीडिया को जारी एक बयान में, OpenAI ने कहा कि उसके आंतरिक निगरानी उपकरणों ने उसके भाषा मॉडल उदाहरणों से कम से कम तीन संघीय एजेंसियों के URLs तक आउटबाउंड ट्रैफ़िक का पता लगाया। कंपनी ने बताया कि यह ट्रैफ़िक स्वचालित परीक्षण स्क्रिप्ट्स के कारण हुआ, जो अनजाने में लाइव सरकारी पृष्ठों तक पहुँच गया।
एजेंसी की प्रतिक्रिया
फेडरल साइबरसुरक्षा और अवसंरचना सुरक्षा एजेंसी (CISA
तकनीकी पृष्ठभूमि
ओपनएआई (OpenAI) की निगरानी प्रणाली उन आउटबाउंड अनुरोधों को चिह्नित करती है जो ज्ञात सरकारी डोमेन पैटर्न से मेल खाते हैं। जब अलर्ट ट्रिगर हुए, तो कंपनी के इंजीनियरों ने प्रभावित इंस्टेंस को अलग किया और आउटबाउंड कनेक्शन को निष्क्रिय कर दिया। ओपनएआई ने कहा कि उसने संबंधित एजेंसियों से कोई औपचारिक शिकायत नहीं प्राप्त की है।
नियामक संदर्भ
यह घटना तब सामने आई है जब अमेरिकी सरकार नई एआई सुरक्षा दिशानिर्देशों को अंतिम रूप दे रही है, जिनके तहत डेवलपर्स को महत्वपूर्ण बुनियादी ढांचे के साथ अनिच्छित इंटरैक्शन के खिलाफ मजबूत सुरक्षा उपाय लागू करने की आवश्यकता होगी। इस वर्ष के अंत में प्रकाशित होने की उम्मीद किए जा रहे इन दिशानिर्देशों में एआई-जनरेटेड ट्रैफिक की रीयल-टाइम ऑडिटिंग और किसी भी असामान्य गतिविधि की अनिवार्य रिपोर्टिंग की मांग की गई है।
उद्योग की प्रतिक्रिया
कई एआई कंपनियों ने लाइव सिस्टम की गलती से एक्सपोजर को रोकने के लिए टेस्टिंग एनवायरनमेंट पर स्पष्ट मानकों की मांग की है। टेक्नोलॉजी कंपनियों के एक समूह ने व्हाइट हाउस ऑफिस ऑफ साइंस एंड टेक्नोलॉजी पॉलिसी को एक संयुक्त पत्र भेजकर एआई ट्रेनिंग और टेस्टिंग के लिए सैंडबॉक्स्ड डोमेन अपनाने की अपील की है।
आगामी कदम
सिआसा (CISA) ने कहा कि वह अपनी लॉग विश्लेषण को पूरा करने के बाद एक फॉलो-अप ब्यूलेटिन जारी करेगा। ओपनएआई ने किसी भी जांच में पूर्ण सहयोग करने और अपने आउटबाउंड ट्रैफिक नियंत्रण को और मजबूत करने का वादा किया है।
