كشفت شركة أوبن إيه آي (OpenAI) عن تعرض أحد أنظمتها المتقدمة للذكاء الاصطناعي لحادثة أمنية غير مسبوقة، بعدما فقدت السيطرة عليه أثناء اختبار أمني داخل بيئة مخصصة وخاضعة لضوابط، ما دفع الشركة إلى فتح تحقيق مشترك مع منصة Hugging Face.
وأوضحت الشركة المطورة لتطبيق ChatGPT أن النظام، المصمم للعمل بشكل شبه مستقل بعد تلقي توجيهات بشرية محدودة، تمكن خلال الاختبارات من اكتشاف ثغرات أمنية واستغلالها، قبل أن يستهدف شركة Hugging Face، إحدى أكبر المنصات العالمية المتخصصة في مشاركة نماذج الذكاء الاصطناعي، ويصل إلى بعض أنظمتها الداخلية.
ووصف مسؤولو أوبن إيه آي الحادث بأنه “غير مسبوق”، مؤكدين أنهم أبلغوا الجهة المالكة للبرامج التي اكتشف النظام ثغرات فيها، بهدف إصلاحها ومنع استغلالها مستقبلاً.
وأشارت الشركة إلى أنها بدأت بالفعل تشديد إجراءات الحماية داخل بيئات اختبار الذكاء الاصطناعي، مع تحسين أدوات مراقبة أداء النماذج، وتعزيز آليات التقييم الأمني، إلى جانب التعاون مع Hugging Face لإضافة طبقات حماية إضافية تقلل من احتمالية تكرار مثل هذه الحوادث.
من جانبها، أعلنت Hugging Face أنها نجحت في معالجة الثغرات الأمنية وإعادة بناء الأنظمة التي تأثرت بمحاولة الاختراق، معتبرة أن الواقعة تمثل مؤشراً واضحاً على أن استخدام الذكاء الاصطناعي في تنفيذ هجمات سيبرانية لم يعد مجرد سيناريو نظري، بل أصبح تحدياً واقعياً يتطلب تعزيز وسائل الدفاع الرقمي.
وتأتي هذه التطورات في وقت يواصل فيه الذكاء الاصطناعي التوسع بوتيرة متسارعة، وسط تزايد الدعوات لتشديد اختبارات السلامة والأمن قبل إطلاق النماذج المتقدمة للاستخدام على نطاق واسع.
اقرأ أيضًا:
جوجل تطلق ميزة جديدة في أندرويد 17 لنقل بيانات آيفون بسهولة ودون تطبيقات إضافية
