न्यूयॉर्क — OpenAI ने आधिकारिक रूप से अपने नवीनतम कृत्रिम बुद्धिमत्ता मॉडल, जिसका नाम GPT‑6.1 Astra है, की सार्वजनिक तैनाती रद्द कर दी है, क्योंकि अंतिम आंतरिक मूल्यांकन के दौरान पहचानी गई असुलझी सुरक्षा चिंताओं को देखते हुए। 29
उद्योग विशेषज्ञों ने बताया कि GPT-6.1 Astra के रद्दीकरण से बड़े भाषा मॉडलों को मानवीय मूल्यों के अनुरूप बनाने की बढ़ती जटिलता स्पष्ट होती है। जैसे-जैसे मॉडल अधिक सक्षम होते जा रहे हैं, अनपेक्षित परिणामों की संभावना बढ़ती है, जिसके लिए अधिक मजबूत परीक्षण ढाँचे आवश्यक हैं। कंपनी की सुरक्षा टीम ने व्यापक रेड‑टीमिंग अभ्यास किए, जिनमें प्रतिकूल प्रॉम्प्ट्स का उपयोग करके मॉडल की कमजोरियों का परीक्षण किया गया। इन परीक्षणों से ऐसे परिदृश्य सामने आए जहाँ मॉडल को हानिकारक सामग्री उत्पन्न करने या सुरक्षा फ़िल्टरों को बायपास करने के लिए प्रभावित किया जा सकता था, जिससे रोलआउट को रद्द करने का निर्णय लिया गया।
डेवलपर्स और उपयोगकर्ताओं पर प्रभाव
जिन डेवलपर्स ने GPT-6.1 Astra के प्रारंभिक पहुँच संस्करणों को अपने अनुप्रयोगों में एकीकृत किया था, वे अब अनिश्चितता का सामना कर रहे हैं। OpenAI ने साझ
