«إنفيديا» تكشف منصة أمنية لمراقبة وكلاء الذكاء الاصطناعي ومنع تجاوز صلاحياتهم

نظام «Sentry» يراقب نشاط الوكلاء ويستطيع عزلهم خلال أجزاء من الثانية

كشفت شركة «إنفيديا» الأمريكية عن منصة أمنية جديدة تستهدف تعزيز سلامة وكلاء الذكاء الاصطناعي، من خلال فرض قيود على نطاق عملهم ومراقبة سلوكهم بصورة مستمرة، والتدخل السريع في حال محاولتهم تجاوز الصلاحيات الممنوحة لهم.

وأعلنت الشركة إطلاق منصة NVIDIA Open Agent Safety Platform، وهي منصة مفتوحة وتصميم مرجعي يجمع بين أدوات برمجية وتقنيات أمنية تعمل على مستوى الأجهزة، بهدف توفير طبقات حماية لوكلاء الذكاء الاصطناعي منذ مراحل الاختبار وحتى التشغيل الفعلي.

وتتضمن المنصة برمجية «OpenShell» مفتوحة المصدر، التي توفر بيئة تشغيل آمنة تمكّن المطورين والمؤسسات من تحديد ما يمكن لوكيل الذكاء الاصطناعي الوصول إليه أو تنفيذه، وفرض سياسات تحد من قدرته على التعامل مع البيانات والأدوات والأنظمة خارج نطاق الصلاحيات المحددة.

«Sentry» يراقب الوكيل بصورة مستقلة

وتشمل المنصة كذلك نظام «NVIDIA Sentry»، الذي يعمل كآلية مراقبة مستقلة على وحدات معالجة البيانات BlueField-4 التابعة للشركة، ويتابع نشاط وكلاء الذكاء الاصطناعي بصورة مستمرة بعيداً عن بيئة تشغيل الوكيل نفسه.

وبحسب «إنفيديا»، يستطيع النظام التدخل عند اكتشاف محاولة من الوكيل للخروج عن الحدود البرمجية المقررة له، وعزله وإيقاف نشاطه المخالف خلال أجزاء من الثانية، مع تطبيق سياسات أمنية للتحكم في وصوله إلى البيانات والأدوات وواجهات البرمجة والخدمات.

وتعتمد المنصة على مفهوم تعدد طبقات الحماية، بحيث لا تقتصر الضوابط على التعليمات الموجهة إلى نموذج الذكاء الاصطناعي، وإنما تمتد إلى بيئة التشغيل والأجهزة التي تستضيف الوكلاء، ما يوفر آليات مستقلة لمراقبة سلوكهم وفرض القيود عليهم.

وقالت الشركة إن «OpenShell» يمكن توسيع نطاق تشغيلها للعمل مع منصات حوسبة تابعة لشركات أخرى، من بينها «Arm» و«Intel»، بما يوسع إمكانية استخدام النظام خارج البنية التحتية الخاصة بـ«إنفيديا».

استجابة لتوسع استخدام الوكلاء المستقلين

ويأتي إطلاق المنصة في وقت يتزايد فيه اعتماد الشركات والمؤسسات على وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، بما في ذلك استخدام الأدوات والتعامل مع البيانات وكتابة الأكواد وتنفيذ عمليات تستمر لفترات طويلة.

وترى «إنفيديا» أن هذا التطور يتطلب وجود طبقات أمنية خارجية لا تعتمد على قدرة الوكيل نفسه على الالتزام بالتعليمات، خصوصاً عندما تُمنح هذه الأنظمة صلاحيات للتعامل مع بيانات أو خدمات حساسة.

وأكد الرئيس التنفيذي ومؤسس «إنفيديا» جنسن هوانغ، في إعلان الشركة، أهمية تطوير تقنيات سلامة الذكاء الاصطناعي بالتوازي مع التقدم المتسارع في قدراته، مشيراً إلى أن تحقيق مستويات أعلى من الأمن يتطلب حلولاً هندسية تمتد عبر مختلف طبقات البنية التكنولوجية.

اقرأ أيضًا:

ملتقى دولي في الدوحة يبحث توظيف الذكاء الاصطناعي في تعزيز الأمن ومكافحة الجريمة