آرٹیفیشل انٹیلیجنس سسٹمز کو اب تک تیز اور قابل اعتماد ریسرچ اسسٹنٹ کے طور پر دیکھا جاتا رہا ہے۔ لیکن ایک تازہ مطالعے نے اس اعتماد کو جھٹکا دیا ہے۔
سیلز فورس اے آئی ریسرچ اور مائیکرو سافٹ کے اس مشترکہ مطالعے میں پایا گیا کہ مقبول اے آئی ٹولز اکثر ادھورے ثبوتوں، غلط حوالوں اور یکطرفہ تحقیق کی بنیاد پر اپنی بات رکھتے ہیں۔
اس مطالعے میں محققین نے ایک فریم ورک تیار کیا جس کا نام ڈیپ ٹریس رکھا گیا۔ یہ سسٹمز کو صرف ان کی زبان کی روانی پر نہیں، بلکہ حقیقی ثبوتوں سے جانچتا ہے۔یہ ہر جواب کو چھوٹے چھوٹے بیانات میں توڑتا ہے اور دیکھتا ہے کہ کون سا دعویٰ کس ماخذ کی حمایت کررہا ہے۔
اس فریم ورک میں جواب میں توازن ، خوداعتمادی، متعقلہ دعوؤں، بیانات کے ثبوت، حوالہ جات سمیت آٹھ پیمانے بنائے گئے۔
ٹیم نے بینک کوپیلوٹ، پرپلیکسٹی، یو ڈات کام اور چیٹ جی پی ٹی 4.5 سمیت چھوٹے اور آسان جواب دینے والے 9 مقبول ترین ٹولز کو 300 سے زیادہ سوالات پر ٹیسٹ کیا۔
مباحثے یا متنازع مسائل سے جڑے سوالات سے ان تمام اے آئی ٹولز کی حقیقت کھل گئی۔ کئی بار ان کے جواب مکمل طور پر یکطرفہ نکلےاور یعنی AI ٹولز نے ایسا ظاہر کیا جیسے یہی سچ ہے۔ حوالہ جات کا کھیل بھی گڑبڑ ملا۔ کچھ سسٹمز نے ایسے ذرائع دیے جو متن سے منسلک ہی نہیں تھے۔
اس مطالعے کا سب سے اہم پہلو یہ ہے کہ عام صارفین جب ان ٹولز پر اعتماد کرتے ہیں تو انہیں کئی خطرات کا سامنا کرنا پڑ سکتا ہے، جیسے کہ اگر جواب یکطرفہ ہے تو صارف کو دوسرے خیالات سے واقفیت ہی نہیں ہوگی، اگر غلط حوالہ جات یا بے کار ذرائع شامل کیے گئے ہیں تو اعتماد پر اثر پڑے گا اور سب سے بڑا خطرہ یہ ہے کہ اے آئی ایک طرح کا ایکو چیمبر بنا دیتا ہے، جہاں بار بار وہی رائے سنائی دیتی ہے جو صارف پہلے سے مانتا ہے۔
