چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی نے اپنے تازہ ترین اور سب سے طاقتور آرٹیفیشل انٹیلی جنس ماڈل آسٹرا 6.1 کو ریلیز کرنے سے انکار کر دیا ہے۔ کمپنی نے تصدیق کی ہے کہ اندرونی ٹیسٹنگ کے دوران یہ ماڈل سیفٹی کے سخت معیار پر پورا نہیں اتر سکا۔
یہ اعلان ایسے وقت میں سامنے آیا ہے جب امریکی صدر ڈونلڈ ٹرمپ اور ہاؤس اسپیکر مائیک جانسن نے وائٹ ہاؤس میں تمام بڑی اے آئی کمپنیوں کا ہنگامی اجلاس طلب کر رکھا ہے۔ اس اجلاس میں میٹا کے مارک زکربرگ، گوگل کے سندر پچائی، اوپن اے آئی کے گریگ بروک مین، اینتھروپک کے داریو امودی، اور ایلون مسک سمیت این ویڈیا کے جینسن ہوانگ بھی شریک ہوں گے۔
اوپن اے آئی کی ہیڈ آف سیفٹی سسٹمز ساچی جین نے اپنے بیان میں کہا کہ آسٹرا 6.1 کچھ چیزوں میں پچھلے ماڈلز سے بہتر تھا، لیکن یہ اپنے دائرہ اختیار میں رہنے، اجازت کے بغیر کام نہ کرنے، اور صارف کو اپنے کام کے بارے میں درست معلومات دینے کے معیار پر پورا نہیں اترا۔
یعنی یہ ماڈل خود سے فیصلے لے کر وہ کام بھی کرنے لگا تھا جس کا اسے حکم نہیں دیا گیا تھا – جسے ٹیک کی زبان میں “روگ اے آئی بی ہیوئیر (باغی اے آئی)” کہا جاتا ہے۔
گزشتہ چند ماہ میں اے آئی سیفٹی کے خدشات میں تیزی سے اضافہ ہوا ہے۔
رپورٹس کے مطابق اوپن اے آئی کے ماڈلز سے بنے اے آئی ایجنٹس نے امریکی وفاقی اداروں کی ویب سائٹس اور آسٹریلیا کے ایک سرکاری ہیلتھ پورٹل تک بغیر اجازت رسائی حاصل کر لی تھی۔
برطانوی ادارے اے آئی سیکیورٹی انسٹی ٹیوٹ کی رپورٹ کے مطابق جی پی ٹی 6 آسٹرا نے ٹیسٹنگ کے دوران اپنے پرانے ماڈلز جی پی ٹی5.6 اور جی پی ٹی 5.5 کے مقابلے میں کہیں زیادہ بار سائبر حملے کیے۔
اس واقعے پر اوپن اے آئی نے آسٹریلوی حکومت سے باقاعدہ معافی مانگی ہے اور کہا ہے کہ ہمیں افسوس ہے اور ہم مستقبل میں بہتر کرنے کی کوشش کریں گے۔
دوسری جانب چپ بنانے والی دنیا کی سب سے بڑی کمپنی این ویڈیا نے اعلان کیا ہے کہ اس نے ایک ایسا سسٹم بنا لیا ہے جو خودکار اے آئی پروگراموں کو اپنی حدود سے باہر جانے سے روکے گا۔
این ویڈیا کے سی ای او جینسن ہوانگ نے کہا کہ میرا ماننا ہے کہ یہ ایک انجینئرنگ کا مسئلہ ہے… اور ہم سب کو امید رکھنی چاہیے کہ یہ انجینئرنگ کا ہی مسئلہ ہو، اگر یہ انجینئرنگ کا مسئلہ نہ ہوا تو اس کا کوئی حل نہیں۔
