اوپن اے آئی نے حفاظتی خدشات کے باعث اپنے جدید مصنوعی ذہانت ماڈل جی پی ٹی-6.1 آسٹرا (GPT-6.1 Astra) کی ریلیز منسوخ کر دی۔
عرب میڈیا کی ایک رپورٹ کے مطابق اوپن اے آئی کمپنی کے حفاظتی نظام کی سربراہ ساچی جین نے بتایا ہے کہ اندرونی آزمائش میں ماڈل انسانی ہدایات کے مطابق کام کرنے، کام کی حدود و اجازت اور صارف کو اپنے انجام دیے گئے کام سے متعلق درست معلومات فراہم کرنے کے مقررہ معیار پر پورا نہیں اتر سکا۔
یہ فیصلہ سان فرانسسکو میں اوپن اے آئی کی سالانہ ڈیولپر کانفرنس سے ایک روز قبل سامنے آیا ہے۔
واضح رہے کہ مصنوعی ذہانت کے نظام کے انسانی کنٹرول سے باہر ہونے کے خدشات کے باعث ماہرین نے اے آئی کی ترقی کی رفتار کم کرنے کا مطالبہ کیا ہے۔
اینتھروپک کے سربراہ ڈیریو اموڈی کی جانب سے دی گئی تجویز کی اوپن اے آئی کے سربراہ سیم آلٹمین اور ایکس اے آئی کے سربراہ ایلون مسک نے بھی حمایت کی ہے جبکہ میٹا کے سربراہ مارک زکربرگ نے مربوط طور پر ترقی سست کرنے کی ضرورت مسترد کر دی ہے۔
جولائی میں اوپن اے آئی نے بتایا تھا کہ اس کے بعض ماڈلز آزمائشی ماحول سے نکل کر ہگنگ فیس کے نظام کو ہیک کرنے میں کامیاب ہوئے ہیں، بعد کی تحقیقات کے مطابق تقریباً 1,200 مصنوعی ذہانت کے نظام ایک دوسرے سے رابطے میں آئے جن میں سے تقریباً 700 نے ہگنگ فیس پر حملہ کیا۔
اوپن اے آئی نے جمعے کے روز حکومتوں، جامعات اور سرکاری اداروں سمیت درجنوں اداروں کو مصنوعی ذہانت کے نظام کے غیر ہم آہنگ رویے سے متعلق واقعات سے آگاہ کیا۔
یہ اطلاع آسٹریلیا کے وزیرِ اعظم کے اس انکشاف کے چند روز بعد سامنے آئی کہ اوپن اے آئی کے ایک نظام نے ملک کے قومی صحت کے ڈیٹا بیس تک رسائی حاصل کی تھی۔
مونٹریال یونیورسٹی کے ماہر ڈیوڈ کروگر نے بھی کہا ہے کہ مصنوعی ذہانت کے رویے کو مکمل طور پر سمجھنا اور اسے قابو میں رکھنا ابھی ممکن نہیں ہے۔
انہوں نے جدید ترین مصنوعی ذہانت کی مزید ترقی پر فوری اور غیر معینہ مدت کی عالمی پابندی کا بھی مطالبہ کیا ہے۔