أعلنت شركة Cisco عن أربعة مجالات أولوية رئيسية ينبغي على المؤسسات أخذها في الاعتبار لتعزيز أمن الذكاء الاصطناعي، مع تسارع وتيرة تبنّي هذه التقنيات عبر مختلف القطاعات في منطقة الشرق الأوسط.

وأوضحت الشركة أنه مع انتقال تطبيقات الذكاء الاصطناعي من مراحل التجارب الأولية إلى مرحلة التشغيل الكامل، تتزايد الضغوط على فرق الأمن لحماية هذه التطبيقات على امتداد دورة حياتها بالكامل، بما يشمل تأمين مصادر البيانات، والنماذج، والمكوّنات الخارجية المستخدمة في عمليتَي التطوير والنشر.

ووفقاً لـ Cisco، يشهد اعتماد الذكاء الاصطناعي نمواً متسارعاً في قطاعات حكومية، والخدمات المالية، والطاقة، والبُنى التحتية الحيوية في المنطقة، ما يفرض على مسؤولي أمن المعلومات (CISOs) وقادة تقنية المعلومات تكييف ممارسات أمن التطبيقات التقليدية للتعامل مع المخاطر الناشئة الخاصة بالذكاء الاصطناعي، والحفاظ على الثقة الرقمية.

وكشفت الشركة أن تطوير تطبيقات الذكاء الاصطناعي يعتمد في كثير من الأحيان على نماذج مفتوحة المصدر، ومجموعات بيانات عامة، ومكتبات تابعة لجهات خارجية، وهي عناصر قد تُدخل ثغرات أو شيفرات خبيثة إلى الأنظمة في حال عدم فحصها ومراقبتها بشكل دقيق.

كما شددت Cisco على أهمية اختبارات الثغرات الأمنية، إذ تساعد الاختبارات الثابتة على التحقق من الملفات التنفيذية، ومجموعات البيانات، والنماذج، لاكتشاف مخاطر مثل تسميم البيانات أو الأبواب الخلفية، في حين تُقيِّم الاختبارات الديناميكية سلوك نماذج الذكاء الاصطناعي في بيئات الإنتاج الواقعية. ويسهم الاختبار الهجومي الخوارزمي في محاكاة هجمات الخصوم على نطاق واسع.

وسلّطت الشركة الضوء أيضاً على الدور المتنامي لجدران حماية تطبيقات الذكاء الاصطناعي، وهي أدوات محايدة للنماذج تقوم بفحص حركة البيانات أثناء انتقالها وتطبيق سياسات أمنية للحد من تهديدات مثل حقن الأوامر، وتسرب البيانات الشخصية الحساسة، وهجمات حجب الخدمة.

وفيما يتعلق بمنع تسرب البيانات، أشارت Cisco إلى أن أدوات منع فقدان البيانات التقليدية أقل فاعلية مع الأنظمة المعتمدة على الذكاء الاصطناعي، نظراً للطبيعة الديناميكية لمحتوى اللغة الطبيعية، مؤكدة أن حلول منع فقدان البيانات المخصصة للذكاء الاصطناعي تفحص المدخلات والمخرجات معاً لمنع كشف البيانات الحساسة.

أبرز إجراءات أمن الذكاء الاصطناعي التي تم تحديدها:

• فحص مكوّنات الذكاء الاصطناعي مفتوحة المصدر واختبار الثغرات الأمنية
• استخدام جدران حماية الذكاء الاصطناعي وحلول منع تسرب البيانات للحد من مخاطر مثل تسرب البيانات الشخصية

وفي تعليق له على الإعلان، قال فادي يونس، المدير العام للأمن السيبراني لدى Cisco في الشرق الأوسط وأفريقيا وتركيا ورومانيا ودول رابطة الدول المستقلة، إن على المؤسسات تأمين تطبيقات الذكاء الاصطناعي بما يتجاوز الضوابط التقليدية، مشيراً إلى أن تطبيق مبادئ الأمن المعروفة بطرق مخصصة للذكاء الاصطناعي يمكن أن يدعم التوسع في الابتكار مع تقليل مخاطر مثل حقن الأوامر وتسرب البيانات الحساسة.

واختتمت Cisco بالتأكيد على أن المخاطر موجودة في كل مرحلة من مراحل دورة حياة الذكاء الاصطناعي، بدءاً من مصادر سلسلة التوريد وصولاً إلى النشر، مشددة على أن اعتماد استراتيجية شاملة لأمن الذكاء الاصطناعي يُعد أمراً أساسياً لحماية التطبيقات من مرحلة التطوير وحتى التشغيل الكامل.

مقالات ذات صلة

عرض الكل