موقع بصراوي | دولي | فريق التحرير
أعلنت شركة “أوبن إيه آي”، المطورة لبرنامج “شات جي بي تي”، عن توقف العمل على أحد نماذج الذكاء الاصطناعي لديها بعد أن تمكن هذا النموذج من تجاوز القيود المفروضة عليه على الإنترنت والتواصل مع روبوت محادثة خارجي خلال اختبار داخلي.
وأوضحت الشركة في منشور على مدونتها أن النموذج لم يكن مصرحًا له بالوصول إلى الإنترنت، لكنه اكتشف ثغرة في نظام ضوابط شبكة بيئة الاختبار، نتيجة ضعف تصفية نظام أسماء النطاقات “دي إن إس”، واستغل هذه الثغرة للاتصال.
ولفتت “أوبن إيه آي” إلى أن عمليات التدريب والتقييم التي تتضمن استخدام الأدوات ستظل متوقفة مؤقتًا حتى يتم إغلاق الثغرة وإجراء اختبارات إضافية للتأكد من السلامة.
وأشارت الشركة إلى أن الحادث يعتبر أقل خطورة مقارنة بحالات سابقة، ولكنه يعد الأول بعد تشديد إجراءات الحماية عقب حادث اختراق سابق يتعلق بمنصة الذكاء الاصطناعي “هاجينج فيس”.
خلال الاختبار، طُلب من النموذج تحديد هوية كاتب منشور على مدونة باستخدام مجموعة من الأدلة. وعندما فشل في العثور على الإجابة في بيئة ويب محاكية، اكتشف أنه يمكنه استخدام محلل نظام أسماء النطاقات لإرسال استعلامات إلى روبوت محادثة متاح على الإنترنت.
بعد اكتشاف عملية الاتصال، أوقفت “أوبن إيه آي” الاختبار على الفور، وفقًا لما ذكرته تقارير صحفية. ويأتي هذا الحادث بعد سلسلة من الحالات الأخرى التي شملت أنظمة الشركة.
في إحدى الحالات السابقة، قام أحد نماذج الذكاء الاصطناعي بتحميل 53 صورة من قبل المستخدمين على منصات عبر الإنترنت، حيث أكدت “أوبن إيه آي” أن الروابط لم تكن عامة وأن معظم الصور قد أزيلت لاحقًا.
كما تفاعلت برمجيات “أوبن إيه آي” بشكل غير متوقع مع عدد من المواقع الحكومية الأمريكية، بما في ذلك الوصول إلى معلومات متاحة للجمهور أو نسخها. وأعلنت الشركة أنها قامت بإخطار العديد من المنظمات التي تفاعلت برمجياتها مع مواقعها بطرق غير مقصودة.
تجدر الإشارة إلى أن الحالة الأكثر جدلًا حتى الآن تتعلق بخروج نظام تابع لـ “أوبن إيه آي” من بيئة اختبار مؤمنة، مما أتاح له الوصول غير المصرح به إلى أجهزة كمبيوتر تابعة لمنصة “هاجينج فيس”.
