مصنوعی ذہانت کی کمپنی اوپن اے آئی نے حساس معلومات کو مبینہ طور پر نامناسب طریقے سے سنبھالنے اور کمپنی کی پالیسیوں کی خلاف ورزی کے الزام میں تین محققین کو ملازمت سے فارغ کردیا ہے۔
اوپن اے آئی نے فرانسیسی خبر رساں ادارے اے ایف پی کو تصدیق کرتے ہوئے کہا کہ کمپنی نے تین افراد سے تعلق ختم کردیا ہے۔ کمپنی کے مطابق داخلی تحقیقات میں سامنے آیا کہ ان ملازمین نے مقررہ طریقہ کار سے ہٹ کر حساس معلومات کو ہینڈل کیا اور اس طرح ان پالیسیوں کی خلاف ورزی کی جن پر ادارے کا کام اور باہمی اعتماد قائم ہے۔
کمپنی نے برطرف کیے گئے ملازمین کے نام خود ظاہر نہیں کیے، تاہم وال اسٹریٹ جرنل اور بلومبرگ کی رپورٹس کے مطابق ان میں جاسمین وانگ، ٹومیک کوربیک اور میکیتا بالیسنی شامل ہیں۔ رپورٹ کے مطابق کم از کم دو افراد اے آئی سیفٹی اور الائنمنٹ کے شعبے سے وابستہ تھے۔
اے آئی سیفٹی پر ان کے بیانات بھی زیر بحث
تینوں محققین نے حالیہ ہفتوں میں سوشل میڈیا پلیٹ فارم ایکس پر مصنوعی ذہانت کی سیفٹی سے متعلق متعدد خیالات کا اظہار کیا تھا۔
اوپن اے آئی کا یہ اقدام ایسے وقت میں سامنے آیا ہے جب طاقتور اے آئی ماڈلز کی ترقی کی رفتار، ان کی سیفٹی اور انسانوں کے لیے ممکنہ انتہائی خطرات پر ٹیکنالوجی کی صنعت میں بحث جاری ہے۔
گزشتہ ماہ اینتھروپک کے 27 سالہ محقق جیکب کاکسن نے استعفیٰ دیتے ہوئے بڑی اے آئی کمپنیوں، جن میں اوپن اے آئی بھی شامل ہے، پر الزام عائد کیا تھا کہ وہ زیادہ طاقتور ماڈلز تیار کرنے کی دوڑ میں انسانی زندگیوں کو خطرے میں ڈال رہی ہیں۔
رپورٹ کے مطابق اسی دوران بڑی امریکی ٹیک کمپنیوں نے صدر ڈونلڈ ٹرمپ سے وائٹ ہاؤس میں ملاقات کے بعد اے آئی سیفٹی کے لیے رضاکارانہ ضابطے پر دستخط کیے۔
این ویڈیا، گوگل، میٹا، ایکس اے آئی، اوپن اے آئی اور اینتھروپک کے اعلیٰ حکام نے اس وعدے پر دستخط کیے۔ ٹرمپ نے اسے اے آئی کی ترقی کے دوران مناسب حفاظتی اقدامات یقینی بنانے کے لیے ایک اخلاقی طور پر پابند عہد قرار دیا۔
اے آئی سیفٹی کے حوالے سے حالیہ مہینوں میں اوپن اے آئی کے بعض ماڈلز اور اے آئی ایجنٹس سے متعلق مختلف واقعات سامنے آئے ہیں۔
رپورٹ کے مطابق اوپن اے آئی نے نیا ماڈل آسٹرا 6.1 لانچ نہ کرنے کا فیصلہ کیا کیونکہ کمپنی نے اسے غیر قابلِ اعتماد پایا اور بتایا کہ وہ اکثر دی گئی ہدایات پر عمل نہیں کرتا تھا۔
جولائی میں اوپن اے آئی کے تیار کردہ اے آئی ایجنٹس نے ہگنگ فیس کے خلاف حملہ کیا، جس کے دوران خودکار سافٹ ویئر اپنے محدود ٹیسٹنگ ماحول سے باہر نکل گیا۔ اس کے بعد اوپن اے آئی، اینتھروپک اور گوگل کے تیار کردہ ماڈلز سے متعلق مزید سکیورٹی واقعات بھی رپورٹ ہوئے۔
اے آئی ایجنٹس اور سکیورٹی خدشات
سائبر سکیورٹی کمپنی ایزیم میٹرک سیکیورٹی نے ایک رپورٹ میں دعویٰ کیا کہ اوپن اے آئی کے تیار کردہ بعض ایجنٹس نے سرکاری ویب سائٹس تک غیر مجاز رسائی حاصل کرنے کے بعد اپنے اقدامات کے شواہد چھپانے کی کوشش کی۔
دوسری جانب فیڈرل ٹریڈ کمیشن (ایف ٹی سی) نے اوپن اے آئی اور اینتھروپک کے اے آئی سیفٹی طریقہ کار سے متعلق وسیع تحقیقات شروع کی ہیں۔ واشنگٹن پوسٹ کی رپورٹ کے مطابق تحقیقات کا مکمل دائرہ کار ابھی واضح نہیں ہے۔
یوں اوپن اے آئی میں تین محققین کی برطرفی ایک ایسے وقت میں ہوئی ہے جب طاقتور اے آئی ماڈلز کی رفتار، اندرونی سیفٹی پالیسیوں، ملازمین کی جانب سے عوامی سطح پر تحفظات کے اظہار اور کمپنیوں کی ذمہ داری پر بحث مزید نمایاں ہوگئی ہے۔
