أعلنت شركة NVIDIA، بالتعاون مع مجموعة من كبرى شركات التكنولوجيا العالمية، إطلاق تحالف Open Secure AI Alliance، وهي مبادرة جديدة تهدف إلى تعزيز أمن الذكاء الاصطناعي والأمن السيبراني من خلال التقنيات مفتوحة المصدر. ويجمع التحالف نخبة من قادة القطاع لتطوير ومشاركة أدوات وتقنيات وأبحاث مفتوحة تدعم الاستخدام المسؤول للذكاء الاصطناعي.

وأوضحت NVIDIA أن التحالف الجديد يستند إلى مبادرة Akrites التابعة لمؤسسة Linux Foundation، إضافة إلى جهود مجتمع OpenSSF، وسيركز على اكتشاف الثغرات الأمنية ومعالجتها والإفصاح عنها باستخدام تقنيات مفتوحة.

وأكدت الشركة أن البرمجيات مفتوحة المصدر أصبحت اليوم ركيزة أساسية للاقتصاد العالمي، حيث تعتمد عليها خدمات الحوسبة السحابية، والخدمات المالية، وقطاع التصنيع، والاتصالات، والجهات الحكومية، وخدمات الإنترنت. كما أشارت إلى أن الأمن السيبراني يعد من أكثر القطاعات استفادة من البرمجيات مفتوحة المصدر.

ويرى التحالف أن الحكومات والمؤسسات تواجه خياراً مهماً فيما يتعلق بأمن الذكاء الاصطناعي، يتمثل في الاعتماد على عدد محدود من الأنظمة المغلقة، أو تبني النماذج والأدوات والأطر المفتوحة التي يمكن للمدافعين دراستها وتخصيصها ونشرها بما يتناسب مع احتياجاتهم.

وأوضحت NVIDIA أن النماذج المفتوحة والمغلقة للذكاء الاصطناعي تؤديان دوراً مهماً في الأمن السيبراني، إلا أن النماذج المفتوحة توفر مستوى أعلى من الشفافية، وتعزز القدرات الدفاعية، وتدعم التحكم المحلي، وتحد من الاعتماد على نقطة فشل واحدة بفضل التطوير المجتمعي.

وفي الوقت نفسه، أقرت الشركة بإمكانية إساءة استخدام النماذج المفتوحة في تنفيذ هجمات إلكترونية أو تعديلها لإزالة وسائل الحماية، لكنها أكدت أن هذه المخاطر موجودة أيضاً في الأنظمة المغلقة، وينبغي إدارتها بغض النظر عن نموذج النشر المستخدم.

واستشهدت NVIDIA بالحادثة الأمنية الأخيرة التي تعرضت لها منصة Hugging Face، باعتبارها مثالاً على أهمية تقنيات الذكاء الاصطناعي المفتوحة. وأوضحت أنه خلال الحادثة، لم تتمكن أدوات الذكاء الاصطناعي المغلقة من التمييز بين المهاجمين والمدافعين، مما حدّ من قدرات التحليل الجنائي. ونتيجة لذلك، استخدمت Hugging Face نموذج GLM 5.2 مفتوح الأوزان على بنيتها التحتية لتحليل أكثر من 17 ألف عملية والمساعدة في احتواء الاختراق.

وأضافت الشركة أن هذه الحادثة أظهرت حاجة المؤسسات إلى القدرة على فحص أنظمة الذكاء الاصطناعي المتقدمة وتكييفها وتشغيلها داخل بنيتها التحتية الخاصة، مؤكدة أن الشركات والحكومات تحتاج إلى أدوات دفاعية مفتوحة لبناء أنظمة أمنية تعمل عبر بيئات متعددة الموردين.

ويضم تحالف Open Secure AI Alliance مؤسسات من قطاعات الحوسبة السحابية، والأمن السيبراني، وبرمجيات المؤسسات، وأبحاث الذكاء الاصطناعي، ومجتمعات البرمجيات مفتوحة المصدر. وتشمل قائمة الأعضاء المؤسسين: NVIDIA، Adobe، Cadence، Capital One، Cisco، Cloudera، Cloudflare، Cognition، CrowdStrike، Databricks، Dell Technologies، DoorDash، Elastic، HPE، Hugging Face، IBM، LangChain، Linux Foundation، Microsoft، NAVER، NetApp، Nous Research، OpenClaw، Palantir، Palo Alto Networks، Red Hat، Reflection AI، Salesforce، SAP، ServiceNow، Siemens، SK Telecom، Snowflake، SpaceXAI، Synopsys، Thinking Machines Lab، وTrendAI.

كما تناولت NVIDIA المخاوف المتعلقة بإمكانية زيادة المخاطر الأمنية نتيجة النماذج المفتوحة، مؤكدة أن الانفتاح يجب أن يكون مصحوباً بضوابط قوية، وقواعد واضحة لمنع إساءة الاستخدام، وتقييمات دقيقة، وآليات سريعة لمعالجة الثغرات، مشيرة إلى أن الأمن السيبراني يستفيد عندما يتمكن عدد أكبر من المدافعين من اختبار أنظمة الذكاء الاصطناعي والتحقق منها وتعزيزها.

وأكدت الشركة كذلك أن سلامة الذكاء الاصطناعي تعتمد على منظومة وكلاء الذكاء الاصطناعي بأكملها، وليس فقط على أوزان النماذج، موضحة أن الوكلاء يحتاجون إلى ضوابط الهوية والصلاحيات، وأطر التشغيل، وآليات الحماية، وأنظمة التسجيل، وأطر التقييم لضمان النشر الآمن.

ولدعم هذه الجهود، تساهم NVIDIA في التحالف بنماذج مفتوحة، وأوزان نماذج، ومجموعات بيانات، وأبحاث خاصة بأطر تشغيل الوكلاء، كما كشفت عن مشروع NVIDIA Labs Object-Oriented Agent (NOOA) مفتوح المصدر على منصة GitHub، وهو إطار بحثي يهدف إلى تعزيز سلامة الذكاء الاصطناعي عبر تسهيل اختبار سلوك الوكلاء وتتبعهم وتدقيقهم وإخضاعهم للحوكمة.

ويشارك أعضاء آخرون في التحالف أيضاً بتقنيات لتعزيز أمن الذكاء الاصطناعي، حيث تقدم HPE تقنيتي SPIFFE وSPIRE اللتين توفران معايير هوية قائمة على نموذج Zero Trust للتحقق من هوية وكلاء الذكاء الاصطناعي والخدمات باستخدام أساليب التشفير.

كما ساهمت Hugging Face بتقنية Safetensors، وهي صيغة آمنة لتخزين أوزان نماذج الذكاء الاصطناعي تمنع تنفيذ التعليمات البرمجية عن بُعد، وذلك ضمن PyTorch Foundation.

وتدعم كل من IBM وRed Hat مشروع Lightwell، الذي يعزز أمن سلسلة توريد البرمجيات مفتوحة المصدر من خلال التصحيحات الرقمية الموقعة.

وطورت Microsoft أداة MDASH، وهي إطار متعدد النماذج لفحص الثغرات يعتمد على وكلاء ذكاء اصطناعي متخصصين لتحديد الثغرات البرمجية القابلة للاستغلال ومناقشتها والتحقق منها.

ومن جانبها، أتاحت SpaceXAI مشروع Grok Build مفتوح المصدر، وهو وكيل برمجي للترميز يعمل عبر الطرفية (Terminal)، بهدف تعزيز الشفافية وإتاحة وصول أكبر للمطورين، كما تعتزم الشركة نشر أوزان نماذج Grok لدعم المطورين والباحثين.

ودعت NVIDIA صناع السياسات والجهات التنظيمية إلى اعتبار النماذج المفتوحة وأطر التشغيل وأدوات الأمن الخاصة بالذكاء الاصطناعي أصولاً دفاعية وليست مصادر للمخاطر، محذرة من أن فرض قيود واسعة على أنظمة الذكاء الاصطناعي المفتوحة المتقدمة قد يضعف قدرات الأمن السيبراني ويزيد الاعتماد على عدد محدود من مزودي الذكاء الاصطناعي المغلق.

كما حثت الحكومات والمؤسسات على الاستثمار في بنية تحتية مشتركة للدفاع باستخدام الذكاء الاصطناعي، تشمل مجموعات البيانات، وأطر التقييم، ومحاكيات الهجمات، وأدوات Red Teaming.

وفي ختام بيانها، أكدت NVIDIA أن تحالف Open Secure AI Alliance يهدف إلى تعزيز مرونة أنظمة الذكاء الاصطناعي، وتوسيع الريادة التقنية، وتوفير أدوات أمنية موثوقة للمؤسسات حول العالم، داعية الحكومات وقادة الصناعة والباحثين إلى التعاون لبناء منظومة ذكاء اصطناعي أكثر أمناً للمستقبل.

مقالات ذات صلة

عرض الكل