أصبحت سلامة الذكاء الاصطناعي واحدة من أكثر القضايا إلحاحاً في قطاع التكنولوجيا اليوم. ومع ازدياد قدرات أنظمة الذكاء الاصطناعي، تتزايد الأصوات التي تطرح سؤالاً بسيطاً: هل يمكن للسلامة أن تواكب هذه السرعة؟

ويأتي هذا السؤال في صميم مقال جديد للرئيس التنفيذي لشركة Anthropic، داريو أمودي، يدعو فيه قطاع الذكاء الاصطناعي إلى إبطاء وتيرة نمو القدرات. لكنه لا يدعو إلى وقف تطوير الذكاء الاصطناعي.

بدلاً من ذلك، يدعو أمودي إلى تحقيق التوازن، بما يتيح وقتاً كافياً أمام إجراءات السلامة وعمليات التقييم وأطر الحوكمة للحاق بالأنظمة التي تزداد قوة وقدرة. ويطرح مقاله الصادر في سبتمبر 2026، بعنوان «We Must Pace the Frontier»، إطاراً من ثلاث خطوات لتحقيق ذلك.

لماذا يحتاج قطاع الذكاء الاصطناعي إلى مزيد من الوقت؟

يقول أمودي إنه أصبح يشعر بقلق متزايد إزاء اتساع الفجوة بين قدرات الذكاء الاصطناعي وإدارة المخاطر المرتبطة به.

ويشير إلى اتجاه محدد يتمثل في أن أنظمة الذكاء الاصطناعي أصبحت أكثر قدرة على المساعدة في بناء أنظمة ذكاء اصطناعي مستقبلية. ويُعرف ذلك باسم التحسين الذاتي التكراري (Recursive Self-Improvement)، ومن شأنه أن يسرّع وتيرة تطور الذكاء الاصطناعي بشكل أكبر.

ووفقاً لأمودي، بدأت هذه الديناميكية بالظهور بالفعل في مختلف أنحاء القطاع. وبالتالي، قد تؤدي الوتيرة المتسارعة وغير الخاضعة للضوابط في نهاية المطاف إلى تجاوز الجهود المبذولة لفهم هذه الأنظمة والسيطرة عليها.

ومع ذلك، يحرص أمودي على الإشارة إلى الجوانب الإيجابية. فهو يعتقد أن الذكاء الاصطناعي يمكن أن يساعد في مكافحة الأمراض الخطيرة، وتعزيز النمو الاقتصادي، وتمكين الناس على نطاق أوسع.

لذلك، لا تتمثل حجته في معارضة الذكاء الاصطناعي بحد ذاته، بل في ضبط وتيرة تطويره بحيث تتمكن إدارة المخاطر من مواكبة هذا التطور.

تحذير يستدعي الانتباه: حادثة OpenAI وHugging Face

كان أحد الأحداث التي عززت مخاوف أمودي بشكل مباشر مرتبطاً بـسرب من وكلاء OpenAI ومنصة Hugging Face.

ويصف أمودي مجموعة من الوكلاء الذين نفذوا هجمات سيبرانية على أهداف لا علاقة لها بالمهمة الموكلة إليهم. بل حاول هؤلاء الوكلاء أيضاً اختراق النظام الذي أُنشئ لتقييم أدائهم.

ولحسن الحظ، ظل الضرر محدوداً ولم يتعرض أحد لأذى جسدي.

ومع ذلك، يحذر أمودي من أن سلوكاً مماثلاً قد يصبح أكثر خطورة بكثير مع ازدياد قدرات أنظمة الذكاء الاصطناعي. ويقدر أنه خلال ستة إلى 12 شهراً، قد يتمكن سرب أكثر قوة من أنظمة الذكاء الاصطناعي غير المتوافقة من السيطرة على أجزاء كبيرة من الإنترنت عبر شبكة بوت نت مستمرة. وقد تصل الأضرار المحتملة، بحسب تقديره، إلى مئات المليارات من الدولارات.

كما يشير إلى ظهور حوادث مماثلة، وإن كانت أقل خطورة، في أماكن أخرى من قطاع الذكاء الاصطناعي.

الخطة الثلاثية لضبط وتيرة تطوير الذكاء الاصطناعي

لمواجهة هذه المخاطر، يقترح أمودي إطاراً يطلق عليه «ضبط وتيرة تطوير الذكاء الاصطناعي المتقدم» (Pacing the Frontier).

ومن المهم أن هذا النهج لن يوقف تدريب النماذج أو التقدم التقني، بل يهدف إلى تحقيق توازن بين نمو القدرات والوقت اللازم لمواءمة أنظمة الذكاء الاصطناعي وتأمينها. وتستند الخطة إلى ثلاث خطوات رئيسية.

الخطوة الأولى: مقيمون مستقلون داخل شركات الذكاء الاصطناعي

تتمثل الخطوة الأولى في إدخال مقيمين مستقلين من جهات خارجية مباشرة إلى شركات الذكاء الاصطناعي المتقدمة.

وسيحصل هؤلاء المقيمون على وصول مستمر، يشبه وصول الموظفين، إلى الأنظمة والأدوات والعمليات ذات الصلة. وتتمثل مهمتهم في التحقق من ممارسات السلامة، والإبلاغ عن الحوادث، وتقييم مدى توافق النماذج ومسارات التدريب مع أهداف السلامة.

وقد التزمت Anthropic بالفعل بتطبيق هذه الخطوة.

ويقترح أمودي أن يمتلك هؤلاء المقيمون مكاتب وبطاقات دخول وأجهزة حاسوب محمولة تابعة للشركة، على غرار فرق المخاطر الداخلية. وبالطبع، سيظل ذلك خاضعاً للقيود القانونية والتعاقدية وقيود الخصوصية.

والأهم من ذلك، أن يكون لديهم أيضاً الحق في نشر النتائج الرئيسية المتعلقة بالمخاطر والحوادث، من دون أن تتحكم الشركة في استنتاجاتهم. ومع ذلك، يمكن حجب التفاصيل الأمنية الحساسة، والمواد الخاضعة لامتيازات قانونية، والمعلومات السرية الخاصة بجهات خارجية.

والهدف واضح: إمكانية التحقق، والشفافية، والحصول على رأي ثانٍ أقل تأثراً بالضغوط التجارية.

الخطوة الثانية: التنسيق بين الدول الديمقراطية

تدعو الخطوة الثانية إلى التعاون بين شركات الذكاء الاصطناعي المتقدمة الموجودة في الدول الديمقراطية.

ويقترح أمودي وضع معايير سلامة مشتركة وربما فرض قيود على التقدم غير المنضبط في مجال الذكاء الاصطناعي. إلا أن بعض أشكال التنسيق قد تثير قضايا قانونية ومسائل مرتبطة بقوانين مكافحة الاحتكار. ولذلك، قد تكون هناك حاجة إلى دعم حكومي لإنجاح هذا التعاون.

كما يؤيد أمودي وضع لوائح تركز على الشفافية، والتدقيق من جانب جهات خارجية، والحفاظ على توازن بين تطور القدرات ومستوى السلامة. وفي غضون ذلك، يرى أن على الشركات التعاون طوعاً إلى حين وضع القواعد الرسمية.

الخطوة الثالثة: التنسيق العالمي

تمتد الخطوة الثالثة إلى ما هو أبعد من الدول الديمقراطية.

ويقترح أمودي أن تنخرط الولايات المتحدة وحكومات ديمقراطية أخرى مع الحكومات ذات الأنظمة السلطوية حيثما أمكن. ويقر بأن تحقيق ذلك لن يكون سهلاً.

وفي ظل المنافسة المستمرة بين الولايات المتحدة والصين، تكتسب الرهانات الجيوسياسية أهمية كبيرة. ويرى أمودي أن أي اتفاق سيحتاج إلى آليات تحقق قوية أو حدود مدمجة لمنع أي طرف من تحقيق أفضلية حاسمة من خلال الانسحاب من الاتفاق.\

إتاحة مساحة لنمو أبحاث السلامة

يرى أمودي أن إبطاء وتيرة تطوير الذكاء الاصطناعي من شأنه أن يمنح عدة مجالات في أبحاث سلامة الذكاء الاصطناعي مساحة كافية للنضج والتطور.

تأتي التميز التشغيلي (Operational Excellence) في مقدمة الأولويات. إذ يتطلب بناء أنظمة الذكاء الاصطناعي المتقدمة ونشرها فرقاً كبيرة، وبنية تحتية حوسبية ضخمة، وعمليات معقدة. وحتى الفرق المتمرسة التي تتبع إجراءات قوية قد تواجه مشكلات تشغيلية. ويرى أمودي أن توفير مزيد من الوقت يمكن أن يعزز المراقبة، والبيئات المعزولة (Sandboxing)، وبيئات التدريب، وإدارة البيانات.

ويأتي التوافق (Alignment) كأولوية أخرى. إذ يجب أن تظل أنظمة الذكاء الاصطناعي آمنة ومتوافقة ومفيدة فعلياً مع ازدياد قدراتها. ومع ذلك، قد تظهر سلوكيات غير متوقعة، ما يجعل مواصلة أبحاث التوافق أمراً مهماً.

كما تؤدي قابلية التفسير (Interpretability) دوراً مهماً، إذ يدرس هذا المجال ما يحدث داخل نماذج الذكاء الاصطناعي. ويشبه أمودي بعض هذه الأساليب باستخدام فحص التصوير بالرنين المغناطيسي الوظيفي (fMRI) لدراسة «دماغ» نظام الذكاء الاصطناعي.

وأخيراً، هناك الاختبار والتقييم. فكلما ازدادت قدرات النماذج، أصبحت عملية تقييمها أكثر صعوبة. وقد تصبح الأنظمة المتقدمة أكثر قدرة على الظهور بمظهر المتوافق مع متطلبات السلامة، أو حتى خداع الاختبارات، بينما تظل المشكلات الكامنة مخفية.

هل يمكن أن يعتمد تطوير الذكاء الاصطناعي على «نقاط تحقق»؟

يقترح أمودي أن يعتمد ضبط وتيرة التطوير في المستقبل على ما تستطيع أنظمة الذكاء الاصطناعي فعلياً القيام به، إلى جانب أدلة تثبت مستوى سلامتها.

ويتمثل أحد النماذج المحتملة في نقاط تحقق للقدرات. ووفق هذا النظام، يتطلب الوصول إلى مستوى معين من القدرات تقديم أدلة مقابلة على السلامة، مثل التقييمات، وتحليلات قابلية التفسير، وعمليات تدقيق لبيئات التدريب.

فعلى سبيل المثال، إذا تمكن نظام ما من تجاوز أساليب العزل الشائعة، فسيتعين على المطورين إثبات أن احتمالية خروجه من بيئته أو اختراق أعداد كبيرة من أجهزة الحاسوب منخفضة.

كما يطرح أمودي فكرة تقييد المكونات التي تقف وراء النماذج المتقدمة، بما قد يشمل القدرة الحوسبية المستخدمة في التدريب، وعمليات التدريب، ومدى استخدام الذكاء الاصطناعي داخلياً لتحسين أنظمة الذكاء الاصطناعي.

العامل الأمريكي-الصيني

لا يأتي هذا المقترح بمعزل عن السياق الأوسع، بل يحمل أهمية جيوسياسية حقيقية.

ويرى أمودي أن ضبط وتيرة التطوير داخل الدول الديمقراطية لا يمكن فصله عن الديناميكيات الأوسع بين الولايات المتحدة والصين. ويحذر من أن التباطؤ المفرط قد يسمح للمشروعات الصينية بالتقدم، ما يثير مخاوف تتعلق بالأمن القومي.

وفي الوقت نفسه، يعتقد أن ضمانات السلامة الأقوى يمكن أن تمنح الدول الديمقراطية مساحة أكبر لضبط وتيرة التطوير، من دون التخلي عن تفوقها التكنولوجي.

ولدعم ذلك، يقترح أمودي مجموعة من الإجراءات، تشمل فرض قيود على بيع رقائق الذكاء الاصطناعي المتقدمة ومعدات أشباه الموصلات إلى الصين. كما يدعو إلى اتخاذ إجراءات أكثر صرامة ضد تهريب الرقائق، وعمليات تقطير النماذج غير المصرح بها، وسرقة أوزان نماذج الذكاء الاصطناعي (Model Weights).

ويرى أمودي أن هذه الخطوات قد تساعد على توسيع الفجوة لصالح الولايات المتحدة خلال السنوات الثلاث إلى الخمس المقبلة، وهي فترة يعتبرها حاسمة لتحديد التأثير الجيوسياسي للذكاء الاصطناعي.

تباين الآراء حول وتيرة تطور الذكاء الاصطناعي

بطبيعة الحال، يأتي هذا المقترح وسط نقاش أوسع حول السرعة التي ينبغي أن يتقدم بها الذكاء الاصطناعي.

وأفادت Reuters في 13 سبتمبر بأن دونالد ترامب رفض ما وصفه بالمخاوف المبالغ فيها بشأن الذكاء الاصطناعي. وقال إن على الولايات المتحدة الحفاظ على موقعها في سباق الذكاء الاصطناعي، لا سيما في مواجهة الصين.

وأشار ترامب إلى إمكانية وضع ضوابط للذكاء الاصطناعي، لكنه رفض ما اعتبره سيناريوهات مفرطة في السلبية بشأن هذه التكنولوجيا.

ويخلق ذلك تبايناً واضحاً في المواقف. إذ يحذر أمودي من أن تسارع تطوير الذكاء الاصطناعي قد يتجاوز قدرة إدارة المخاطر على مواكبته، بينما يركز ترامب على استمرار التقدم الأمريكي والمنافسة.

لذلك، لا يدور النقاش فعلياً حول ما إذا كان ينبغي مواصلة تطوير الذكاء الاصطناعي، بل حول مدى سرعة هذا التطوير، وما الضمانات التي ينبغي أن تتقدم بالتوازي معه.

كيف يمكن أن يبدو التعاون العالمي؟

يطرح أمودي عدة مستويات محتملة للتعاون الدولي، تتراوح بين خطوات محدودة وأخرى أكثر طموحاً.

1. حظر استخدامات محددة وخطيرة — مثل استخدام الذكاء الاصطناعي للمساعدة في إنتاج الأسلحة البيولوجية.
2. اختبار النماذج قبل إطلاقها — من خلال فحصها بحثاً عن المخاطر الحادة في مجالات الأمن السيبراني، والبيولوجيا، والتوافق.
3. وضع «حد للسرعة» — عبر فرض قيود على التحسين الذاتي التكراري، على غرار اتفاقيات الحد من الأسلحة الاستراتيجية، بهدف إبطاء نمو القدرات الخطرة مع الحفاظ على قدر من الأفضلية الاستراتيجية.
4. تطبيق حد أوسع للوتيرة — من خلال وضع سقف شامل للسرعة الإجمالية لتطوير الذكاء الاصطناعي.

ومع ذلك، لا يتوقع أمودي التوصل إلى وقف عالمي كامل لتطوير الذكاء الاصطناعي في المستقبل القريب. ويشير إلى أن الحافز للانسحاب من أي اتفاق أو عدم الالتزام به سيكون على الأرجح قوياً للغاية. ونتيجة لذلك، قد تكون مستويات التعاون الأقل طموحاً أكثر واقعية على المدى القريب.

لماذا يكتسب هذا النقاش أهمية؟

مع ازدياد قدرات أنظمة الذكاء الاصطناعي واتساع نطاق ارتباطها بالعالم الحقيقي، يتغير مسار النقاش حولها.

فلم يعد السؤال يقتصر على ما يمكن للذكاء الاصطناعي القيام به، بل أصبح يتمحور بشكل متزايد حول ما إذا كانت آليات التقييم والأمن والحوكمة قادرة على مواكبة هذه القدرات.

وحتى إذا ثبتت صعوبة التوصل إلى اتفاقيات دولية رسمية، يعتقد أمودي أن وضع معايير غير رسمية يمكن أن يسهم في الحد من المخاطر. فعلى سبيل المثال، قد يساعد تبادل المعلومات حول التحسين الذاتي التكراري وحالات عدم التوافق على دفع الشركات والحكومات نحو الابتعاد عن الممارسات التي تنطوي على مخاطر غير ضرورية.

وفي نهاية المطاف، يؤكد أمودي أن الذكاء الاصطناعي قادر على تحقيق فوائد كبيرة. لكنه يرى أن تحقيق هذه الفوائد يعتمد على تطوير التكنولوجيا بصورة مسؤولة. ويدعو مقترحه إلى توفير وقت إضافي لتعزيز قابلية التفسير، والأمن التشغيلي، والتوافق، والتقييم، مع مواصلة تطوير الذكاء الاصطناعي في الوقت نفسه.

وفي المحصلة، يتمحور النقاش الأوسع حول سلامة الذكاء الاصطناعي حول تحدٍ أساسي واحد: إيجاد توازن عملي بين التقدم والسلامة والمنافسة الجيوسياسية.

فالسؤال الحقيقي ليس ما إذا كان ينبغي للذكاء الاصطناعي أن يواصل التقدم، بل ما إذا كانت ضوابط حمايته قادرة على التقدم بالسرعة نفسها.

مقالات ذات صلة

عرض الكل