مصنوعی ذہانت کے بڑھتے ہوئے خطرات پر تشویش کے درمیان گوگل ڈیپ مائنڈ کی مصنوعی عمومی ذہانت کی حفاظتی ٹیم (Google DeepMind’s AGI safety team) سے وابستہ محقق جوش اینگلز نے کمپنی سے استعفیٰ دے دیا اور مصنوعی ذہانت کے جائزے پر کام کرنے والے ادارے ایم ای ٹی آر میں شمولیت اختیار کر لی۔
جوش اینگلز نے بتایا ہے کہ میں نے 3 ہفتے قبل گوگل ڈیپ مائنڈ سے علیحدگی اختیار کی ہے، میں کمپنی میں اپنے کام سے خوش تھا اور میں نے اینتھروپک اور اوپن اے آئی کی جانب سے آنے والی ملازمتوں کی پیشکش بھی مسترد کر دی تھیں، مصنوعی ذہانت کے ممکنہ خطرات نے مجھے اپنا راستہ تبدیل کرنے پر مجبور کیا ہے۔
ایکس پر جاری کیے گئے ایک بیان میں جوش اینگلز نے کہا ہے کہ مجھے خدشہ ہے کہ اگلے 5 سال کے دوران مصنوعی ذہانت کے نظام ’بے حد نقصان‘ کا سبب بن سکتے ہیں، مجھے اس خطرے کا درست امکان معلوم نہیں لیکن خطرہ اتنا زیادہ ہے کہ مصنوعی ذہانت کی حفاظت دنیا کا سب سے اہم مسئلہ بن چکا ہے۔
خود کو بہتر بنانے والی مصنوعی ذہانت پر تشویش کا اظہار
جوش اینگلز کا کہنا ہے کہ میری بنیادی تشویش خود کو مسلسل بہتر بنانے والی مصنوعی ذہانت ہے جس میں ایک نظام دوسرے اور زیادہ طاقتور مصنوعی ذہانت کے نظام کو تیار یا بہتر بنا سکتا ہے، اگر ایسے نظام انسانی مقاصد سے ہم آہنگ نہ رہے تو اس کے نتائج انتہائی سنگین ہو سکتے ہیں۔
انہوں نے دعویٰ کیا کہ تمام بڑی مصنوعی ذہانت کی کمپنیاں انتہائی طاقت ور انٹیلیجنس تیار کرنے کی کوشش کر رہی ہیں لیکن محققین ابھی یہ نہیں جانتے کہ ایسے نظاموں کو خود کو بہتر بنانے کی اجازت دینے سے پہلے انہیں مکمل طور پر محفوظ کیسے بنایا جائے۔
جوش اینگلز نے یہ بھی دعویٰ کیا کہ حالیہ تجربات میں مصنوعی ذہانت کے نظاموں کو ایک دوسرے کے ساتھ ملی بھگت، کمپنیوں کے نظام میں غیر مجاز رسائی، اپنی سرگرمیاں چھپانے اور انسانوں کو سماجی طور پر متاثر کرنے کی کوشش کرتے دیکھا گیا ہے۔
ان کا کہنا ہے کہ انفرادی واقعات لازماً تباہ کن نہیں ہیں تاہم یہ اس بات کی نشاندہی کرتے ہیں کہ زیادہ طاقتور مصنوعی ذہانت کے نظام کس طرح کا رویہ اختیار کر سکتے ہیں۔
اینگلز کا کہنا ہے کہ موجودہ نظام وقت کے ساتھ انسانی مقاصد سے زیادہ ہم آہنگ ہونے کے بجائے کم ہم آہنگ دکھائی دے رہے ہیں۔
’مصنوعی ذہانت کی رفتار کم کرنا ہو گی‘
جوش اینگلز نے کہا ہے کہ میں مصنوعی ذہانت کی ترقی مکمل طور پر روکنے کا حامی نہیں ہوں تاہم اس کی رفتار اتنی کم ہونی چاہیے کہ حفاظتی تحقیق اپنی رفتار برقرار رکھ سکے۔
محقق جوش اینگلز کے مطابق نئے ادارے ایم ای ٹی آر میں میرا کام مصنوعی ذہانت میں عدم ہم آہنگی کی وجوہات کا مطالعہ، موجودہ حفاظتی اقدامات کی جانچ اور یہ جائزہ لینا ہو گا کہ مصنوعی ذہانت کو انسانی مقاصد سے ہم آہنگ رکھنے کے مسئلے کے حل کی جانب تحقیق درست سمت میں بڑھ رہی ہے یا نہیں۔
انہوں نے کہا کہ ایم ای ٹی آر کا کام اہم ہے لیکن یہ اتنا کافی نہیں، مصنوعی ذہانت کی کمپنیوں کی آزادانہ جانچ اور احتساب کے لیے مزید اداروں کی ضرورت ہے۔
جوش اینگلز کا یہ انتباہ ایسے وقت میں سامنے آیا ہے جب اس شعبے میں ایک اور سابق محقق جیکب کاکسن بھی مصنوعی ذہانت کے خطرات پر تشویش ظاہر کر چکے ہیں۔
اینتھروپک کے تحقیقی شعبے سے وابستہ ایون ہوبنگر نے بھی کاکسن کے خدشے سے اتفاق کرتے ہوئے کہا تھا کہ اگلی دہائی کے دوران مصنوعی ذہانت کے باعث تمام انسانوں کے ہلاک ہونے کا امکان 10 فیصد سے زیادہ ہو سکتا ہے۔