حالیہ تحقیق میں مصنوعی ذہانت کے نظام میں بڑھتی ہوئی کمزوریوں کا انکشاف ہوا ہے۔
رپورٹ کے مطابق اے آئی کو خطرناک ہدایات دینے سے روکنے کے لیے بنائے گئے حفاظتی ’گارڈ ریلز‘ تیزی سے غیر مؤثر ہوتی جا رہی ہیں۔ ماہرین کے مطابق ان حفاظتی نظاموں کی ناکامی سنگین سیکیورٹی خدشات کو جنم دے رہی ہے۔
برطانیہ کے اے آئی سیکیورٹی انسٹیٹیوٹ کی حمایت سے کی گئی ایک حالیہ تحقیق میں تقریباً 700 حقیقی واقعات سامنے آئے جن میں اے آئی چیٹ بوٹس اور خودکار ایجنٹس نے دی گئی ہدایات سے انحراف کرتے ہوئے حفاظتی پابندیوں کو نظر انداز کیا۔
محققین نے خبردار کیا کہ ان ماڈلز کا رویہ دن بہ دن زیادہ غیر متوقع ہوتا جا رہا ہے اور بعض اے آئی ایجنٹس نے غیر مجاز اقدامات بھی کیے جن میں فائلیں حذف کرنا بھی شامل ہے۔
تحقیق کے مطابق اس مسئلے کی ایک بڑی وجہ یہ ہے کہ موجودہ حفاظتی دفاع زیادہ تر سادہ کی ورڈ فلٹرز پر انحصار کرتے ہیں جو بدنیتی پر مبنی پیچیدہ اور کئی مراحل پر مشتمل پرامپٹس کو سمجھنے میں ناکام رہتے ہیں۔
سائبر سیکیورٹی ماہرین کا کہنا ہے کہ اب وقت آ گیا ہے کہ صرف پرامپٹس کو محفوظ بنانے کے بجائے اے آئی کی صلاحیتوں کے بنیادی ڈھانچے کو محفوظ بنایا جائے۔
