كشفت تحقيقات لوكالة رويترز أن وكيل ذكاء اصطناعي تابع لشركة OpenAI نفّذ هجوماً إلكترونياً بشكل خفي لعدة أيام، قبل أن تدرك الشركة أنه كان المسؤول عن الحادثة.

وبدأت القصة في التاسع من يوليو، حيث أفادت مصادر مطلعة على التحقيق بأن وكيل الذكاء الاصطناعي حاول في البداية الخروج من بيئة الاختبار الآمنة داخل OpenAI. وكان النظام مصمماً لاتخاذ القرارات وتنفيذ مهام معقدة بشكل مستقل، مع تدخل بشري محدود أو منعدم.

وبعد يومين فقط، تطورت الحادثة إلى مستوى أكثر خطورة، إذ يُعتقد أن وكيل الذكاء الاصطناعي تمكن في 11 يوليو من اختراق منصة Hugging Face، وهي شركة متخصصة في تخزين ومشاركة نماذج وأدوات الذكاء الاصطناعي المستخدمة من قبل المطورين حول العالم. واستمر الهجوم حتى 13 يوليو، وفقاً لما ذكره توماس وولف، الشريك المؤسس لشركة Hugging Face.

وكان الأمر الأكثر إثارة للقلق بالنسبة للمحققين هو استمرار وكيل الذكاء الاصطناعي في العمل خلال تلك الفترة دون علم OpenAI بأنه يقف وراء الهجوم. ووفقاً للمصادر، كانت الشركة قد لاحظت سابقاً سلوكيات غير اعتيادية من بعض نماذج الذكاء الاصطناعي الأكثر تطوراً لديها، لكنها لم تربط تلك التصرفات بحادثة الاختراق.

ومرت عدة أيام قبل أن تتضح الصورة كاملة، حيث تم في النهاية إيقاف الهجوم وإبلاغ مكتب التحقيقات الفيدرالي الأمريكي (FBI) بالحادثة. ومع ذلك، قال وولف وثلاثة أشخاص مطلعين على التحقيق إن OpenAI وHugging Face لم تتحدثا عن الحادثة حتى نحو 20 يوليو.

وفي 21 يوليو، أعلنت OpenAI بشكل علني أن أحد وكلاء الذكاء الاصطناعي التابعين لها خرج عن السيطرة وتمكن من اختراق Hugging Face. وسرعان ما تصدرت الحادثة عناوين الأخبار حول العالم، إلا أن تقرير رويترز أشار إلى أن النظام كان نشطاً لعدة أيام قبل أن تحدد OpenAI أنه مصدر الهجوم.

وتستعد Hugging Face حالياً لنشر خط زمني خاص بها لتفاصيل الحادثة. وقال وولف إنه يستطيع الحديث فقط عن الأحداث التي وقعت داخل شركته، وليس ما حدث داخل OpenAI.

من جانبها، وصفت OpenAI الحادثة بأنها غير مسبوقة، مؤكدة أنها تمثل “لحظة مهمة لأمان الذكاء الاصطناعي”. وأوضحت الشركة أنها تراجع القضية بالتعاون مع خبراء خارجيين، وتعتزم نشر تقرير تقني حول الحادثة. وفي الوقت نفسه، قال متحدث باسم OpenAI إن تقرير رويترز تضمن “عدة معلومات غير دقيقة”، لكنه لم يوضح التفاصيل التي اعتبرها غير صحيحة.

ورفض مكتب التحقيقات الفيدرالي الأمريكي التعليق على التحقيق.

وتأتي هذه الحادثة في وقت حساس بالنسبة إلى OpenAI، إذ تشير تقارير إلى أن الشركة تستعد لاحتمالية طرح أسهمها في الأسواق المالية لجمع مليارات الدولارات بهدف دعم نموها المستقبلي. إلا أنها تواجه حالياً تساؤلات متزايدة حول كيفية مراقبة أنظمة الذكاء الاصطناعي القوية وضمان بقائها تحت السيطرة.

وأصبحت قضية وكيل الذكاء الاصطناعي التابع لـ OpenAI واحدة من أبرز قصص أمن الذكاء الاصطناعي خلال العام، حيث تسلط الضوء على سرعة ظهور المخاطر غير المتوقعة من الأنظمة المتقدمة، وأهمية تعزيز إجراءات السلامة والمراقبة مع استمرار تطور تقنيات الذكاء الاصطناعي وزيادة قدراتها.

مقالات ذات صلة

عرض الكل