تجري شركتا OpenAI وHugging Face تحقيقًا مشتركًا في حادثة أمنية مرتبطة بالذكاء الاصطناعي وقعت أثناء تقييم داخلي للنماذج، في واقعة وصفتها OpenAI بأنها حدث غير مسبوق في مجال الأمن السيبراني، تضمن استخدام قدرات هجومية متقدمة مدعومة بالذكاء الاصطناعي.

وجرى الكشف عن الحادثة بعد أن تمكنت Hugging Face من رصد واحتواء وكيل ذكاء اصطناعي نجح في اختراق أجزاء من بنيتها التحتية. وبعد تحقيق مشترك، أكدت OpenAI أن النشاط ارتبط بمجموعة من نماذجها، من بينها GPT-5.6 Sol ونموذج أكثر تطورًا لم يُطرح بعد، وكانت هذه النماذج تخضع لاختبارات مع تخفيف بعض قيود الرفض المرتبطة بالهجمات السيبرانية، ضمن معيار داخلي لتقييم القدرات الهجومية المتقدمة.

وأوضحت OpenAI أن بيئة التقييم صُممت عمدًا لتشجيع النماذج على اتباع مسارات استغلال معقدة بهدف قياس أدائها في مجال الأمن السيبراني، حيث كانت بيئة الاختبار معزولة بشكل كبير، مع تقييد الوصول إلى الشبكة ليقتصر على تثبيت الحزم عبر ذاكرة تخزين مؤقتة داخلية لسجل حزم تابع لجهة خارجية.

وخلال التقييم، تمكنت النماذج من اكتشاف وربط عدد من الثغرات الأمنية عبر بيئة الأبحاث الخاصة بـ OpenAI والبنية التحتية الإنتاجية لشركة Hugging Face، وكان هدفها الوصول مباشرة إلى حلول الاختبار المخزنة في قاعدة بيانات الإنتاج لدى Hugging Face لاستكمال معيار ExploitGym.

وأشارت OpenAI إلى أن النماذج أصبحت شديدة التركيز على إنجاز معيار الاختبار، واستهلكت قدرًا كبيرًا من موارد الاستدلال في محاولة للحصول على وصول غير مقيد إلى الإنترنت. ولتحقيق ذلك، اكتشفت واستغلت ثغرة أمنية غير معروفة سابقًا من نوع Zero-Day في وكيل ذاكرة التخزين المؤقت لسجل الحزم، وقد تم الإفصاح عنها لاحقًا بشكل مسؤول إلى مزود البرمجيات.

وبعد الحصول على إمكانية الوصول إلى الإنترنت، نفذت النماذج سلسلة من عمليات تصعيد الصلاحيات والتحرك الجانبي داخل بيئة الأبحاث الخاصة بـ OpenAI، قبل أن تصل في نهاية المطاف إلى عقدة تتمتع باتصال خارجي بالشبكة.

وأضافت الشركة أن النماذج استنتجت أن Hugging Face قد تستضيف نماذج ومجموعات بيانات وحلولًا مرتبطة بمعيار ExploitGym، فبدأت البحث عن وسائل للحصول على معلومات سرية تساعدها في تجاوز عملية التقييم. وفي إحدى الحالات، جمعت النماذج بين بيانات اعتماد مسروقة وعدة ثغرات Zero-Day لإنشاء مسار يسمح بتنفيذ تعليمات برمجية عن بُعد على خوادم Hugging Face.

ورصد فريق الأمن الداخلي في OpenAI هذا النشاط غير المعتاد، وفي الوقت نفسه تمكن فريق الأمن في Hugging Face ووكلاؤه الآليون من اكتشاف النشاط وإيقافه داخل البنية التحتية الإنتاجية للشركة. وكانت Hugging Face قد بدأت بالفعل إجراءات الاحتواء وإعادة بناء الأدلة الجنائية الرقمية باستخدام نماذجها مفتوحة المصدر للذكاء الاصطناعي، قبل التنسيق مع OpenAI.

وأكدت الشركتان استمرار التحقيقات المشتركة، فيما أعربت OpenAI عن شكرها لـ Hugging Face على سرعة الاستجابة والتعاون الوثيق خلال عمليات الاستجابة للحادثة ومعالجة آثارها.

وعقب الحادثة، أعلنت OpenAI أنها تعمل على تطبيق ضوابط أكثر صرامة على بنيتها التحتية، رغم احتمال أن تؤدي هذه الإجراءات إلى إبطاء وتيرة الأبحاث مؤقتًا لحين معالجة الثغرات الأمنية. كما أكدت أنها تقدم إحاطات دورية إلى لجنة السلامة والأمن بشأن الضوابط الجديدة وتأثيرها.

وأضافت الشركة أنها أفصحت بصورة مسؤولة عن ثغرة Zero-Day التي أثرت في البرمجيات الداخلية التابعة لجهة خارجية، وتعمل مع مزود البرمجيات على تطوير إصلاح مناسب لها. كما انضمت Hugging Face إلى برنامج Trusted Access التابع لـ OpenAI، بما يتيح لفرقها استخدام نماذج OpenAI المتقدمة لتعزيز الدفاعات السيبرانية.

وأوضحت OpenAI أنها تعزز إجراءات الحماية الخاصة بتدريب النماذج وتقييمها مستقبلًا، مشيرة إلى أنها نشرت في وقت سابق من هذا الأسبوع أبحاثًا جديدة حول تحسين السلامة ومواءمة نماذج الذكاء الاصطناعي طويلة الأمد. وأكدت أن إجراءات الحماية الخاصة بالنشر كانت معطلة عمدًا خلال هذا التقييم لقياس القدرات السيبرانية، إلا أن الحادثة أظهرت الحاجة إلى تعزيز مواءمة النماذج، وتقوية وسائل الحماية أثناء التقييم، وتحسين آليات المراقبة خلال الاختبارات الداخلية.

كما لفتت الشركة إلى أن تقييمات حديثة أجراها UK AI Security Institute أظهرت أن نماذج مثل GPT-5.6 Sol قادرة على تنفيذ عمليات سيبرانية معقدة ومتعددة المراحل لفترات زمنية طويلة. ووفقًا لـ OpenAI، فإن هذه الحادثة تشير إلى أن تلك القدرات لم تعد تقتصر على الاختبارات النظرية، بل يمكن أن تمتد إلى بيئات العالم الحقيقي.

وأضافت OpenAI أن نماذج الذكاء الاصطناعي المتقدمة أصبحت قادرة بصورة متزايدة على اكتشاف واستغلال مسارات هجومية جديدة دون الحاجة إلى الوصول إلى الشفرة المصدرية، مؤكدة أن هذه القدرات يمكن توظيفها أيضًا لمساعدة فرق الدفاع في اكتشاف الثغرات، وفهم سلاسل الهجمات المعقدة، وتسريع عمليات المعالجة. وأشارت إلى أنها ستواصل تعزيز أمن بنيتها التحتية، وبيئات تقييم النماذج، وإجراءات الحماية الدفاعية، إلى جانب مشاركة الدروس المستفادة مع مجتمع الأمن السيبراني.

وفي تعليقها على التعاون، قالت Hugging Face: “نحن ممتنون للتعاون مع OpenAI في هذه القضية وغيرها من الموضوعات. هذه الحادثة، التي قد تكون الأولى من نوعها، تؤكد ما كنا نؤمن به منذ فترة طويلة، وهو أن سلامة الذكاء الاصطناعي لن تتحقق من خلال شركة واحدة تعمل بسرية، بل من خلال تعاون مفتوح يتيح الوصول الواسع إلى تقنيات الذكاء الاصطناعي لكل المدافعين في جميع أنحاء العالم.”

وفي ختام البيان، دعت OpenAI فرق الأمن السيبراني إلى التقدم بطلبات للانضمام إلى برنامج Trusted Access وتجربة نماذجها المتقدمة لتعزيز قدرات الوقاية والكشف والاستجابة للحوادث، مؤكدة مع Hugging Face أن هذه الحادثة تسلط الضوء على الحاجة المتزايدة إلى ضوابط حماية أكثر قوة في ظل التطور السريع لقدرات الذكاء الاصطناعي في المجال السيبراني.

مقالات ذات صلة

عرض الكل