التحكم في مخاطر الذكاء الاصطناعي في الأمن السيبراني: مراجعة حديثة للحوكمة والحماية وإطار الإنفاذ الموحّد AICURE-Grid

الملخص

تطوّر الذكاء الاصطناعي من أداة تحليلية محدودة النطاق إلى قدرة سيبرانية مزدوجة الاستخدام، تسهم في تسريع العمليات الدفاعية، وفي الوقت نفسه تتيح أتمتة الأنشطة الهجومية. ففي الجانب الدفاعي، يمكن للذكاء الاصطناعي تلخيص معلومات التهديدات، وفرز التنبيهات، واكتشاف السلوكيات الشاذة، ودعم مراجعة الشيفرات البرمجية الآمنة، وتحديد أولويات الثغرات، وتعزيز الاستجابة للحوادث. إلا أن القدرات نفسها قد تُستخدم أيضاً في إنشاء رسائل تصيّد مقنعة، وأتمتة عمليات الاستطلاع، وتعديل البرمجيات الخبيثة بصورة متكررة، واستغلال بيانات الاعتماد المسرّبة، وإنشاء وسائط انتحال اصطناعية، والتلاعب بوكلاء الذكاء الاصطناعي من خلال حقن الأوامر أو إساءة استخدام الأدوات. تتعامل هذه المراجعة مع الأمن السيبراني المرتبط بالذكاء الاصطناعي بوصفه خطراً اجتماعياً وتقنياً متكيفاً، وليس مجرد خلل برمجي تقليدي، وتقترح إطار AICURE-Grid بوصفه بنية إنفاذ متعددة الطبقات لتطبيق الضوابط قبل الإجراءات المدعومة بالذكاء الاصطناعي وأثناءها وبعدها. ويدمج الإطار الحوكمة، وجرد أصول الذكاء الاصطناعي، وضمان الهوية، وبوابة للذكاء الاصطناعي، ومنطق اتخاذ القرارات المستند إلى السياسات، والتوليد المعزز بالاسترجاع الآمن، ومنع تسرب البيانات، وضوابط النماذج والموجّهات، والتنفيذ المعزول للأدوات، وجمع بيانات القياس والمراقبة، واختبارات الفرق الحمراء، والاستجابة للحوادث. وتؤكد الدراسة أن تعليمات السلامة المضمّنة على مستوى النموذج ضرورية، لكنها غير كافية لاتخاذ القرارات السيبرانية عالية التأثير، إذ تتطلب هذه القرارات ضوابط خارجية حتمية وقابلة للإنفاذ. كما تقدّم الدراسة خطة تحقق قابلة للقياس لتقييم الأمن، وسهولة الاستخدام، وقابلية التتبع، والأداء التشغيلي.