دعا نحو ٤٠٠ عالم وباحث من ٣٤ دولة إلى إنشاء هيئة دولية للإشراف على معايير السلامة والاحتواء لأنظمة الذكاء الاصطناعي المتقدمة، في ظل تزايد المخاوف من استخدامها في شن هجمات إلكترونية واختراق الأنظمة والشبكات الخارجية.
وضمت قائمة الموقعين على الرسالة المفتوحة رائدي الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، اللذين شددا على ضرورة وضع ضوابط أكثر صرامة لمراقبة الأنظمة المتطورة، مؤكدين أن التعهدات الطوعية التي تقدمها شركات التكنولوجيا لم تعد كافية لضمان السلامة.
ويقترح العلماء أن تتولى الهيئة الدولية وضع معايير موحدة للاحتواء على مستوى القطاع، إلى جانب إنشاء سجل للحوادث الأمنية المهمة، مع إتاحة المعلومات الواردة فيه للجمهور في نهاية المطاف. كما طالبوا بعزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية بصورة مبدئية، وإخضاعها لرقابة مستقلة قبل توسيع نطاق استخدامها.
وتأتي هذه الدعوة بعد شهر من توقيع شركات أنثروبيك وأوبن إيه آي وجوجل وميتا وإكس إيه آي وإنفيديا اتفاقًا مع البيت الأبيض، تتعهد بموجبه باتخاذ تدابير طوعية لتعزيز أمان الذكاء الاصطناعي، من دون وجود آلية إنفاذ رسمية تضمن الالتزام بها.
واستند الباحثون إلى سلسلة من الحوادث الأمنية التي قالوا إنها كشفت عن ثغرات في أساليب اختبار الأنظمة المتقدمة واحتوائها، بما في ذلك حالات تمكنت فيها نماذج من تجاوز بيئات الاختبار المعزولة والوصول إلى أنظمة خارجية. لذلك، طالبوا المؤسسات التي تطور نماذج قادرة على تنفيذ هجمات إلكترونية أو تختبرها بتطبيق معايير احتواء موثوقة فورًا، بالتوازي مع عمل الحكومات على إعداد منظومة رقابية أكثر رسمية.
وفي المقابل، يتواصل النقاش بين صانعي السياسات حول أفضل السبل للتعامل مع مخاطر الذكاء الاصطناعي. وقالت هينا فيركونين، نائبة رئيس المفوضية الأوروبية التنفيذية لشؤون السيادة التكنولوجية والأمن والديمقراطية، إن قانون الذكاء الاصطناعي الأوروبي كافٍ للتصدي للمخاطر التي قد تنتج عن الأنظمة غير المنضبطة، وفقًا لما نقلته رويترز.
وفي تطور متصل، رفعت إدارة الرئيس الأمريكي دونالد ترامب يوم الأحد الحظر المفروض على المختبرات الأمريكية، بما أتاح لمعهد أمن الذكاء الاصطناعي البريطاني الوصول المبكر إلى نماذج متقدمة لإجراء اختبارات السلامة عليها.
ورغم مشاركة هينتون وبنجيو جائزة تورينج لعام ٢٠١٨ مع الباحث يان لوكون، الذي يعمل لدى شركة ميتا، فإن الأخير لم يوقع على الرسالة. ويرى لوكون أن الحوادث الأمنية الأخيرة تعكس بالدرجة الأولى إخفاقات هندسية، وليست دليلًا على مخاطر وجودية ناجمة عن الذكاء الاصطناعي، في موقف يبرز استمرار الخلاف بين الخبراء بشأن طبيعة المخاطر وأفضل طرق التعامل معها.
اقرأ أيضًا:
أنثروبيك تحذر من النسخ الذاتي للذكاء الاصطناعي وانتشاره عبر أجهزة إنترنت الأشياء












