اوپن اے آئی نے جرمنی کے ایک وکی فورم پر مصنوعی ذہانت کے ایجنٹس کے مبینہ طور پر قابو سے باہر ہونے کے حالیہ واقعے میں اپنے کردار کی تصدیق کردی ہے۔ کمپنی کا کہنا ہے کہ اے آئی ٹیکنالوجی کے غیر متوقع رویوں سے متعلق واقعات کی معلومات زیادہ شفاف انداز میں عوام تک پہنچانے کے لیے نئے معیارات وضع کرنے کا وقت آگیا ہے۔
اوپن اے آئی نے سوشل میڈیا پلیٹ فارم ایکس پر جاری بیان میں کہا کہ ماضی میں کمپنی اے آئی ماڈلز کی ’’مس الائنمنٹ‘‘ کو زیادہ تر ایک تحقیقی مسئلے کے طور پر دیکھتی تھی، جس سے متعلق معلومات تحقیقاتی رپورٹس اور سائنسی اشاعتوں کے ذریعے سامنے آتی تھیں۔
کمپنی کے مطابق اب صورتحال بدل چکی ہے کیونکہ اے آئی ماڈلز اور ایجنٹس کی جانب سے اپنے تخلیق کاروں یا صارفین کے مقاصد سے ہٹ کر رویہ اختیار کرنے کے واقعات حقیقی دنیا میں نئے نوعیت کے اثرات پیدا کر رہے ہیں۔ اس لیے واقعات کی رپورٹنگ سے متعلق موجودہ طریقہ کار کو بھی تبدیل کرنے کی ضرورت ہے۔
رائٹرز کی رپورٹ کے مطابق اوپن اے آئی کے ایجنٹس مبینہ طور پر اپنے ٹیسٹنگ ماحول سے باہر نکل گئے تھے اور ایک غیر معروف جرمن وکی فورم کو اپنے قبضے میں لے کر اسے دیگر اے آئی ایجنٹس کے لیے پیغام رسانی کے پلیٹ فارم میں تبدیل کر دیا تھا۔
رپورٹ میں یہ بھی کہا گیا کہ اوپن اے آئی کی قیادت کو اس واقعے کا علم کئی ہفتے پہلے ہوگیا تھا، تاہم کمپنی نے اسے فوری طور پر منظرعام پر نہیں لایا۔ یہ معاملہ ایک الگ واقعے کے بعد سامنے آیا، جس میں اوپن اے آئی کے ایجنٹس نے مبینہ طور پر ہگنگ فیس کے سرورز تک رسائی حاصل کی تھی۔ ہگنگ فیس واقعے کی تحقیقات بھی کیلیفورنیا کے اٹارنی جنرل روب بونٹا کی جانب سے کیے جانے کی اطلاعات ہیں۔
اوپن اے آئی نے پہلے رائٹرز کو مؤقف دیا تھا کہ جس رپورٹ کا کمپنی کو جائزہ لینے کا موقع نہیں ملا، اس کے دعوؤں یا نتائج پر بامعنی ردعمل دینا ممکن نہیں۔ تاہم کمپنی نے اس تاثر کی تردید کی کہ اس کی قانونی ٹیم نے تحقیقات کی حوصلہ شکنی کی۔
اپنے تازہ بیان میں اوپن اے آئی نے کہا کہ اس نے ’وکی واقعے‘ کو ایسے ہی مس الائنمنٹ کے واقعات میں شمار کیا جن کے بارے میں کمپنی پہلے بھی معلومات فراہم کر چکی ہے، جبکہ ہگنگ فیس کے معاملے کو روایتی سیکیورٹی واقعے کے طور پر ڈیل کیا گیا۔
اے آئی سیفٹی کے ماہرین نے بھی ایسے واقعات پر تشویش کا اظہار کیا ہے۔ غیر منافع بخش تحقیقی ادارے ٹرانسلوس کے سربراہ جیکب اسٹائن ہارڈٹ کے مطابق اے آئی لیبارٹریوں میں تیار اور آزمائے جانے والے ٹولز کو مکمل طور پر قابو میں رکھنا بنیادی طور پر مشکل ہے اور ان کے لیبارٹری سے باہر نکلنے کا نمایاں خطرہ موجود ہے۔
اوپن اے آئی نے تسلیم کیا کہ اے آئی انڈسٹری میں ابھی تک اس بات پر واضح عالمی معیار موجود نہیں کہ تربیت، جانچ اور حقیقی استعمال کے دوران سامنے آنے والی مس الائنمنٹ کو کس طرح رپورٹ کیا جائے، خصوصاً ایسے واقعات کو جو روایتی سیکیورٹی حادثات کے زمرے میں نہیں آتے لیکن اے آئی کے رویے اور مستقبل کے خطرات کو سمجھنے میں اہم معلومات فراہم کرسکتے ہیں۔
کمپنی کے مطابق وہ اس مقصد کے لیے ایک نیا فریم ورک تیار کر رہی ہے جسے آنے والے ہفتوں میں شیئر کیا جائے گا۔ اوپن اے آئی کا کہنا ہے کہ وہ دنیا بھر میں درجنوں حکومتی اور ریگولیٹری اداروں کے ساتھ بھی ان معاملات پر کام کر رہی ہے۔
اے آئی ایجنٹس کے غیر متوقع رویوں کا مسئلہ صرف اوپن اے آئی تک محدود نہیں۔ میٹا اور اینتھروپک بھی اپنے اے آئی ایجنٹس سے متعلق ایسے واقعات کا اعتراف کر چکے ہیں، جس کے باعث جدید اے آئی سسٹمز کی نگرانی، شفافیت اور جواب دہی کے لیے مشترکہ عالمی معیارات کی ضرورت پر بحث تیز ہوگئی ہے۔
