أعلنت شركة OpenAI مجموعة جديدة من سياسات وإجراءات الأمن والسلامة، بهدف تعزيز قدرتها على رصد واحتواء الحوادث الأمنية خلال اختبار وتطوير نماذج الذكاء الاصطناعي.
وتتضمن الإجراءات الجديدة مراقبة أكثر تفصيلًا لسلوك النماذج خلال مراحل التطوير، إلى جانب زيادة التركيز على مواءمة النماذج وتعزيز أمنها خلال مرحلة ما بعد التدريب.
وأوضحت الشركة أن هذه الخطوات جاءت جزئيًا في ضوء القدرات المتقدمة في مجال الأمن السيبراني التي يتمتع بها نموذج Astra المرتقب، فضلًا عن التطور السريع الذي يشهده قطاع الذكاء الاصطناعي.
وأشارت OpenAI إلى أنها أوقفت عمليات التعلم المعزز لمدة أسبوعين عقب حادثة Hugging Face، قبل أن تستأنف تدريب عدد من النماذج التي اعتبرتها أقل خطورة.
وتشمل الإجراءات تعزيز ممارسات عزل الشبكات، بما يضمن عدم تمكن المهاجم من الوصول إلى الإنترنت أو شبكات داخلية أخرى بمجرد اختراق أحد أعباء العمل أو الخدمات الداعمة.
كما تطبق الشركة نظام مراقبة متقدمًا لفحص نطاق واسع من الأنشطة، بما يشمل الأدوات التي تستخدمها النماذج وآثار عمليات الاستدلال وسجلات النشاط، بهدف اكتشاف أي أنماط قد تشير إلى سلوك مقلق أو محاولات لتجاوز القيود الأمنية.
وتستهدف OpenAI إصدار تنبيهات خلال 30 دقيقة من اكتشاف أي نشاط يثير مخاوف أمنية، فيما تقدر الشركة أن تشغيل نظام المراقبة سيحتاج إلى موارد حوسبة تعادل نحو 20% من الموارد المستخدمة في العملية الخاضعة للمراقبة.
وتأتي هذه الإجراءات في وقت تتزايد فيه المخاوف بشأن المخاطر الأمنية المرتبطة بقدرات نماذج الذكاء الاصطناعي المتقدمة، خصوصًا مع توسع استخدامها في مجالات الأمن السيبراني والبرمجة وتنفيذ المهام المعقدة.
اقرأ أيضًا:
