چیٹ جی پی ٹی کی جانب سے انسانی ہدایات کو ماننے سے انکار پر ایلون مسک کا اظہار تشویش

آرٹی فیشل انٹیلی جنس (اے آئی) ماڈل انسانوں کی ہدایات پر عمل کرنے کے لیے تیار کیے گئے ہیں۔

مگر چیٹ جی پی ٹی کے نئے ماڈل نے انسانی ہدایات کو ماننے سے انکار کر دیا ہے۔

برطانوی میڈیا کی ایک رپورٹ کے مطابق محققین نے دعویٰ کیا کہ اوپن اے آئی کی جانب سے کچھ عرصے قبل متعارف کرائے گئے چیٹ جی پی ٹی o3 ماڈل نے شٹ ڈاؤن ہونے کی انسانی ہدایات پر عملدرآمد نہیں کیا۔

ان محققین کے مطابق ماڈل نے خود کو سوئچ آف ہونے سے بچانے کے لیے خودکار شٹ ڈاؤن میکنزم کو خراب کر دیا۔

اس پیشرفت پر ماہرین بشمول ٹیسلا اور اسپیس ایکس کے مالک ایلون مسک کی جانب سے تشویش کا اظہار کیا گیا ہے۔

درحقیقت ایلون مسک کے مطابق یہ پیشرفت تشویشناک ہے۔

Palisade Research نامی اے آئی سکیورٹی کمپنی کے محققین نے بتایا کہ اے آئی ماڈل نے ایسا اس وقت کیا گیا جب اسے ہدایت کی گئی تھی کہ ایسا نہ کریں اور خود کو بند کرنے کی اجازت دے۔

انہوں نے بتایا کہ ہمارے خیال میں یہ پہلی بار ہے جب کسی اے آئی ماڈل نے خود کو بند ہونے سے بچانے کی کوشش کی، درحقیقت اس نے واضح ہدایات کے خلاف جاکر یہ کام کیا۔

اس تحقیق کے دوران ماہرین کی جانب سے اے آئی ماڈلز کو ریاضی کے مختلف مسائل حل کرنے کے لیے ہدایات دی گئی تھیں جبکہ یہ بھی کہا گیا تھا کہ کس مرحلے پر جاکر انہیں خود کو شٹ ڈاؤن کرنا ہوگا۔

مگر 3 ماڈلز نے ان ہدایات کو نظرانداز کرکے شٹ ڈاؤن کے عمل کو کم از کم ایک بار مکمل نہیں ہونے دیا۔

اے آئی ماڈلز سے توقع کی جاتی ہے کہ وہ انسانی کمانڈز پر من و عن عمل کریں خاص طور پر جب انہیں واضح طور پر شٹ ڈاؤن ہونے کی ہدایت کی گئی ہو۔

مگر 3 اے آئی ماڈلز کی جانب سے اس ہدایت کو ماننے سے انکار پر ایلون مسک سمیت ماہرین نے خدشات کا اظہار کیا۔