يتجاوز الذكاء الاصطناعي حدود الشاشات، وينتقل إلى أنظمة قادرة على الحركة واللمس والتفاعل مع العالم المادي من خلال الروبوتات والآلات والمركبات والبنية التحتية. وتشير إحدى التوقعات السوقية إلى أن قيمة سوق الذكاء الاصطناعي المادي (Physical AI) قد ترتفع من نحو 7 مليارات دولار في عام 2026 إلى أكثر من 430 مليار دولار بحلول عام 2030. وإذا تأكدت هذه التوقعات، فستعكس مدى سرعة تحول الاستثمارات والاهتمام نحو هذا المجال. وبالنسبة إلى الشرق الأوسط، حيث تعتمد قطاعات استراتيجية مهمة على الأصول المادية والعمليات المعقدة، يصعب تجاهل هذه الفرصة.

ولا يزال قطاع النفط والغاز يمثل ركيزة أساسية لاقتصادات الخليج، في حين تزداد أهمية قطاع الخدمات اللوجستية مع توجه المنطقة لترسيخ مكانتها كمركز عالمي للتجارة والنقل. وتُعد هذه البيئات تحديدًا من المجالات التي يمكن أن يحدث فيها الذكاء الاصطناعي المادي تأثيرًا كبيرًا، بدءًا من عمليات الفحص والصيانة المستقلة، وصولًا إلى الخدمات اللوجستية الذكية والروبوتات والعمليات الصناعية التي تتجه نحو مزيد من الأتمتة.

وتبدو الفرصة كبيرة، لكن يرافقها سؤال جوهري: مع انتقال الذكاء الاصطناعي من توليد المعلومات إلى اتخاذ القرارات وتنفيذ الإجراءات، كيف ينبغي للمؤسسات حوكمة أنظمة قادرة على التصرف بسرعة الآلات والتأثير بشكل متزايد في العالم المادي؟

المخاطر الحقيقية لا تتمثل في الذكاء الاصطناعي المتمرد

تتأرجح الروايات الشائعة حول الذكاء الاصطناعي بين اليوتوبيا ونهاية العالم؛ فالروبوتات إما ستنقذنا أو ستدمرنا. لكن كلا التصورين يغفل جوهر المشكلة. فالتهديد الحقيقي لا يتمثل في ذكاء اصطناعي متمرد أو آلات واعية، وإنما في الاستقلالية غير الخاضعة للحوكمة.

وتتمثل المخاطر الفعلية في وكلاء يعملون بسرعة الآلات، ويتصلون ببيانات غير مثالية، ويتم نشرهم ضمن نماذج تشغيل لم تُصمم أصلًا للتعامل مع العواقب المادية. ولنتخيل عملية لوجستية تدير مئات الآلات المستقلة؛ إذ قد يؤدي تحديث روتيني إلى إدخال خلل بسيط في البيانات، فتبدأ عدة أنظمة في العمل خارج المعايير المعتمدة، قبل أن يدخل أحدها منطقة يوجد فيها أشخاص.

لا توجد هنا نية للإضرار أو وعي ذاتي، بل مجرد استقلالية تعمل بسرعة عالية، وترتبط ببيانات قديمة أو غير دقيقة، من دون ضوابط فعالة. وقد شهدت المؤسسات هذا النمط من الأعطال لعقود في البرمجيات، حيث أصبح النشر السريع، وتوزيع المسؤوليات بين جهات منفصلة، وإضافة الحوكمة بعد وقوع الأعطال، ممارسات شائعة. ويجعل الذكاء الاصطناعي المادي هذه الفجوات المألوفة أكثر تأثيرًا وخطورة.

خمسة أسباب تغير معادلة حوكمة الذكاء الاصطناعي المادي

لا يضيف الذكاء الاصطناعي المادي خطرًا جديدًا واحدًا، بل يضخم فجوات الحوكمة القائمة في الوقت نفسه.

أولًا، القدرة على التأثير المادي. لا يكتفي الذكاء الاصطناعي بالتوصية بإجراء معين، بل يمكنه تحريك العالم المادي ولمسه وتغييره، في حين لا تزال العديد من أطر إدارة المخاطر الحالية تفترض تأثيرًا رقميًا بالدرجة الأولى.

ثانيًا، سرعة التنفيذ. تستطيع الأنظمة المستقلة اتخاذ القرارات بسرعة الآلات، بينما لا تزال إجراءات الموافقة والرقابة مصممة وفق أطر زمنية بشرية.

ثالثًا، الاعتماد على البيانات. يعتمد الذكاء الاصطناعي المادي على بيانات أجهزة الاستشعار في الوقت الفعلي إلى جانب معلومات المؤسسة. ولم تعد جودة البيانات مجرد شرط مسبق لإجراء تحليل جيد، بل أصبحت عنصر تحكم تشغيلي.

رابعًا، التحسين الذاتي. مع تكيف الأنظمة مع طرق تحقيق أهدافها، قد تواجه عمليات إدارة التغيير التقليدية صعوبة في مواكبة هذه التعديلات.

وأخيرًا، اتساع سطح الهجوم. يؤدي حقن المطالبات في الأنظمة المدعومة بالذكاء الاصطناعي، وتزييف بيانات أجهزة الاستشعار، والمدخلات العدائية إلى إدخال نقاط ضعف جديدة في أنظمة قد تتجاوز آثارها البيئة الرقمية.

وبالتالي، لا يتمثل السيناريو الكارثي في تمرد روبوتات درامي، بل في أخطاء عادية ومتوقعة على نطاق واسع، بدءًا من قراءة المعلومات بشكل خاطئ ودرجات الحرارة غير الصحيحة، وصولًا إلى تعارضات في التوجيه أو قرارات معيبة. وقد تبدو كل مشكلة بسيطة بمفردها، لكن عندما تتكرر عبر آلاف الوكلاء وملايين القرارات، يمكن أن تتحول المشكلات الصغيرة إلى أزمات تنظيمية أو تشغيلية أو تتسبب في أضرار بالسمعة.

السؤال نفسه ينطبق على الوكلاء الرقميين

لا تتنافس حوكمة الذكاء الاصطناعي المادي مع طموحات المنطقة الأوسع في مجال الذكاء الاصطناعي الوكيلي، بل يعزز كل منهما الآخر. فإرساء حوكمة فعالة للذكاء الاصطناعي المادي يبني الخبرة والثقة اللازمتين لتطبيق الذكاء الاصطناعي الوكيلي على نطاق أوسع، ما يمنح المؤسسات التي تستثمر في هذا المجال تقدمًا في كلا المسارين.

وتتشابه مبادئ الحوكمة المطلوبة عندما يستطيع الذكاء الاصطناعي التحكم في آلة، إلى حد كبير، مع الأسس اللازمة عندما يتمكن وكيل ذكاء اصطناعي من التصرف نيابة عن مواطن أو عميل أو موظف.

وفي مختلف أنحاء الشرق الأوسط، تستكشف الحكومات والشركات أنظمة ذكاء اصطناعي يمكنها بشكل متزايد التصرف نيابة عن الأشخاص. ويُعد التركيز المتنامي في الإمارات على الذكاء الاصطناعي الوكيلي في الخدمات الحكومية أحد الأمثلة على مستقبل يمكن فيه لوكلاء الذكاء الاصطناعي التنقل بين الإجراءات، واتخاذ القرارات، وتنفيذ المهام بدرجة من الاستقلالية. وقد لا تحتوي هذه الأنظمة على عجلات أو محركات أو أذرع روبوتية، لكن سؤال الحوكمة الأساسي يظل متشابهًا بشكل لافت.

ما الصلاحيات التي يمتلكها الوكيل؟ وما البيانات التي يمكنه الوصول إليها؟ وما القرارات التي يمكنه اتخاذها؟ ومن يتحمل المسؤولية عندما يرتكب خطأ؟ وما مدى سرعة اكتشاف أفعاله وإيقافها أو التراجع عنها؟ تكتسب هذه الأسئلة أهمية سواء كان وكيل الذكاء الاصطناعي يوجه آلة في مستودع أو يساعد في تقديم خدمة حكومية.

وعندما تحدث إخفاقات في الحوكمة داخل الأنظمة الرقمية، يمكن أن تكون آثارها مالية أو تشغيلية أو مرتبطة بالسمعة. لكن عندما ترتبط هذه الأنظمة بخدمات حيوية وتتفاعل مباشرة مع الجمهور، فقد تصبح العواقب أوسع بكثير. ولذلك، فإن المبدأ يتجاوز الذكاء الاصطناعي المادي؛ فمع ازدياد استقلالية الذكاء الاصطناعي، يجب أن تتطور الحوكمة بالتوازي معه.

مستقبلان. التكنولوجيا نفسها.

يمتلك الشرق الأوسط فرصة للتعامل مع هذا الأمر بطريقة مختلفة. فبدلًا من انتظار انتشار الأنظمة المستقلة ثم إضافة الحوكمة بعد وقوع الأخطاء، يمكن للمؤسسات البدء في التفكير بالحوكمة بالتزامن مع التفكير في الاستقلالية. ويكتسب ذلك أهمية خاصة في منطقة تراهن فيها الحكومات والشركات بقوة على الذكاء الاصطناعي، وتتحرك بسرعة لتحويل هذه الطموحات إلى واقع تشغيلي.

يقود المسار الأول إلى نشر الأنظمة المستقلة بسرعة، مع هويات وحدود غير واضحة، وملكية مجزأة، وإضافة متطلبات الامتثال بعد النشر، وإشراف بشري يعمل بوتيرة الآلات. ومع تراكم مشكلات جودة البيانات والثغرات الأمنية والأخطاء التشغيلية الصغيرة، قد تصل المؤسسة إلى مرحلة تفقد فيها القدرة على التدخل بفاعلية.

أما المسار الثاني فيبدو مختلفًا تمامًا. إذ يجري تطوير الاستقلالية مع تحديد واضح للمساءلة، ووضع حدود دقيقة، وتنظيم الوصول إلى البيانات، وإجراء الاختبارات المناسبة، وتوفير إشراف مستمر. وتظل التكنولوجيا نفسها، لكن نموذج التشغيل المحيط بها هو ما يحدد ما يمكن لهذه التكنولوجيا تحقيقه بأمان.

يفكر الشرق الأوسط بالفعل بجدية في الإمكانات التي يمكن للذكاء الاصطناعي توفيرها لاقتصاداته وحكوماته وقطاعاته. والسؤال التالي هو مدى جديته في تحديد ما ينبغي السماح للذكاء الاصطناعي بفعله.

والتوصية بسيطة: قبل توسيع نطاق الأنظمة المستقلة، ينبغي للمؤسسات تحديد المسؤوليات، وضوابط البيانات، ومعايير الاختبار، ومسارات التصعيد، وآليات واضحة لإيقاف الأنظمة. وحتى ذلك الحين، لا تقتصر القضية على سلامة الذكاء الاصطناعي، بل تتعلق أيضًا بمستوى نضج الحوكمة.

بقلم محمد اليحيى، الشريك الإداري لخدمات البنية التحتية العالمية (GIS) في الشرق الأوسط وأفريقيا لدى DXC Technology.

مقالات ذات صلة

عرض الكل