مصنوعی ذہانت (اے آئی) کی تیز رفتار ترقی اور مستقبل میں خود کو بہتر بنانے کی صلاحیت رکھنے والے انتہائی طاقتور ماڈلز کے ممکنہ خطرات پر تشویش کے باعث ایک اے آئی محقق نے صنعت چھوڑنے کا فیصلہ کر لیا۔
جیکب کوکسن نے گزشتہ تین برس کے دوران پہلےاوپن اے آئی اور بعد ازاں اینتھروپک میں اے آئی ماڈلز کی پری ٹریننگ پر کام کیا۔ کوکسن کا کہنا ہے کہ وہ اینتھروپک کو دیگر کمپنیوں کے مقابلے میں زیادہ محتاط سمجھتے تھے، تاہم بالآخر انہیں محسوس ہوا کہ کوئی عائد کیا کہ دونوں کمپنیاں ایسے مصنوعی ذہانت کے نظام تیار کرنے کی دوڑ میں شامل ہیں جو مستقبل میں خود کو بہتر بنانے اور نئی نسل کے اے آئی ماڈلز کیٹ فارم ایکس پر اپنے بیان میں یہ بھی کہا کہ اے آئی تیار کرنے والے بہت سے افراد سنجیدگی سے یہ سمجھتے ہیں کہ موجودہ دہائی کے اختتام تک اے آئی پوری انسانیت کے لیے تباہ کن ثابت ہو سکتی ہے۔ ان کے بقول یہ محض تش بھی کمپنی اس دوڑ میں محفوظ راستے کی ضمانت نہیں دے سکتی۔
کوکسن نے الزام عائد کیا کہ دونوں کمپنیاں ایسے مصنوعی ذہانت کے نظام تیار کرنے کی دوڑ میں شامل ہیں جو مستقبل میں خود کو بہتر بنانے اور نئی نسل کے اے آئی ماڈلز کی تیاری میں بڑی حد تک انسانی مداخلت کے بغیر کردار ادا کر سکیں گے۔ انہوں نے کہا کہ دونوں کمپنیاں ذمہ داری سے کام نہیں کر رہیں، وہ خود کو بہتر بنانے والی سپر انٹیلی جنس کی جانب تیزی سے بڑھ رہی ہیں اور ہماری زندگیوں کو داؤ پر لگا رہی ہیں۔
کوکسن نے سوشل میڈیا پلیٹ فارم ایکس پر اپنے بیان میں یہ بھی کہا کہ اے آئی تیار کرنے والے بہت سے افراد سنجیدگی سے یہ سمجھتے ہیں کہ موجودہ دہائی کے اختتام تک اے آئی پوری انسانیت کے لیے تباہ کن ثابت ہو سکتی ہے۔ ان کے بقول یہ محض تشہیری حربہ نہیں۔
اینتھروپک کے اپنے عہدیدار کی تشویش
کوکسن کے مؤقف کو اینتھروپک کے اے آئی سیفٹی ایگزیکٹو ایون ہوبنجر کی حمایت نے مزید اہم بنا دیا۔ ہوبنجر نے کہا کہ کمپنی میں لوگ واقعی یہ سمجھتے ہیں کہ اے آئی ممکنہ طور پر تمام انسانوں کی ہلاکت کا سبب بن سکتی ہے۔
ہوبنجر کے مطابق آئندہ ایک دہائی کے دوران اس انتہائی خطرناک صورت حال کا امکان 10 فیصد سے زیادہ ہے۔ تاہم انہوں نے واضح کیا کہ موجودہ اے آئی ماڈلز کے بارے میں ایسا خطرہ کم ہے اور این مکمل منصوبہ موجود نہیں جس سے یہ یقینی بنایا جا سکے کہ انسانوں سے زیادہ صلاحیت رکھنے والا مستقبل کا اے آئی نظام اپنے تخلیق کاروں کے احکامات کی پابندی کرے گاتھروپک اس خطرے کو کم کرنے کی کوشش کر رہی ہے۔
ان کا کہنا تھا کہ کمپنی کے پاس ابھی ایسا مکمل منصوبہ موجود نہیں جس سے یہ یقینی بنایا جا سکے کہ انسانوں سے زیادہ صلاحیت رکھنے والا مستقبل کا اے آئی نظام اپنے تخلیق کاروں کے احکامات کی پابندی کرے گا۔
ریکَرْسیو سیلف امپروومنٹ
ماہرین کی تشویش کا ایک اہم سبب ریکرسیو سیلف امپروومنٹ ہے۔ اس تصور کے تحت مستقبل کا ایک انتہائی طاقتور اے آئی نظام خود اے آئی تحقیق، ڈیزائن اور تربیت میں مدد دے کر اپنے سے زیادہ طاقتور اگلی نسل کے نظام تیار کر سکتا ہے۔
اس طرح اے آئی کی ترقی کی رفتار انسانی نگرانی اور سمجھ بوجھ کی صلاحیت سے کہیں زیادہ بڑھ جانے کا خدشہ ظاہر کیا جا رہا ہے۔
کوکسن کا کہنا ہے کہ کسی کمپنی کے لیے تنہا ایسے نظام کی محفوظ تیاری ممکن نہیں جو بالآخر انسانی صلاحیتوں سے آگے نکل جائے۔ ان کے مطابق اس کے لیے حکومتی مداخلت، بین الاقوامی تعاون یا جدید ترین اے آئی کی ترقی میں مربوط سست روی ضروری ہے۔
اے آئی کی دوڑ
کوکسن کے مطابق اینتھروپک میں اے آئی کے خطرات کو سنجیدگی سے سمجھا جاتا ہے، لیکن کمپنی ایک ایسی مسابقتی دوڑ میں پھنسی ہوئی ہے جہاں اسے خدشہ ہے کہ اگر وہ خود رک گئی تو کم محتاط حریف آگے نکل سکتے ہیں۔
اسی وجہ سے اینتھروپک نے رواں سال فروری میں اپنے سیفٹی چارٹر سے وہ وعدہ بھی ہٹا دیا تھا جس کے تحت خطرات پر قابو نہ پانے کی صورت میں ماڈلز کی ترقی روکنے کی بات کی گئی تھی۔ کمپنی کا مؤقف تھا کہ اگر وہ یک طرفہ طور پر کام روک دیتی ہے تو کم محتاط حریف صنعت پر غالب آ سکتے ہیں، جو مجموعی طور پر زیادہ خطرناک صورت حال ہوگی۔
حکومتی اور عالمی تعاون پر زور
اے آئی کے ممکنہ خطرات پر تشویش صرف کوکسن تک محدود نہیں۔ جولائی کے اختتام پر ٹیکنالوجی کی صنعت سے وابستہ ایک ہزار سے زائد افراد نے واشنگٹن سے جدید ترین اے آئی نظام کی ترقی میں مربوط سست روی کے لیے اقدامات کرنے کا مطالبہ کیا۔ ان افراد میں اینتھروپک کے چیف ایگزیکٹو داریو اموڈی بھی شامل تھے۔
دوسری جانب اوپن اے آئی نے اگست میں اپنے جدید ترین ماڈلز کی تربیت دو ہفتوں کے لیے روکنے کے بعد سخت تر حفاظتی اقدامات کے تحت اسے دوبارہ شروع کیا۔ کمپنی کے چیف سائنٹسٹ جیکب پاچوکی نے بھی حالیہ دنوں میں انتہائی احتیاط پر زور دیتے ہوئے کہا کہ مستقبل میں اے آئی کی ترقی کے حوالے سے بین الاقوامی تعاون دنیا بھر کی حکومتوں کی اولین ترجیحات میں شامل ہونا چاہیے۔
امریکا میں اے آئی ماڈلز کے حوالے سے جامع وفاقی قانون سازی اب بھی محدود ہے۔ ستمبر میں سینیٹر برنی سینڈرز اور ڈیموکریٹ نمائندے گریگ کاسر نے ایسا بل متعارف کرایا جس میں وفاقی ریگولیٹر کے قیام تک اے آئی کی ترقی معطل کرنے کی تجویز دی گئی ہے۔
