أعلنت Meta عن مجموعة جديدة من إجراءات السلامة في Meta AI تهدف إلى تعزيز حماية المراهقين أثناء المحادثات المتعلقة بالانتحار وإيذاء النفس. وتشمل التحديثات تنبيهات للآباء، وإمكانات للاستجابة لحالات الطوارئ، واستجابات محسّنة للذكاء الاصطناعي تم تطويرها بالتعاون مع خبراء في الصحة النفسية، إلى جانب ضوابط أكثر صرامة للمحتوى الموجّه للمراهقين.

وأوضحت الشركة أن الميزات الجديدة صُممت لتوفير تجارب ذكاء اصطناعي ملائمة للفئة العمرية، مع مساعدة المراهقين على الوصول إلى الدعم خارج الإنترنت من خلال الوالدين أو البالغين الموثوقين أو خطوط المساعدة المتخصصة أو خدمات الطوارئ عند الحاجة.

وكجزء من التحديث، سيقوم Meta AI بإخطار الآباء الذين يستخدمون أدوات الإشراف الأبوي في Instagram إذا أشارت محادثة أحد المراهقين مع الذكاء الاصطناعي إلى احتمال تعرضه لخطر الانتحار أو إيذاء النفس. وستستند هذه التنبيهات إلى مؤشرات طُورت بالتعاون مع خبراء، كما ستتضمن موارد تساعد الآباء على التعامل مع هذه المحادثات مع أبنائهم.

وفي السابق، كان Meta AI يوجّه المراهقين الذين يعبّرون عن أفكار انتحارية أو نوايا لإيذاء النفس إلى خطوط المساعدة المتخصصة، ويشجعهم على التواصل مع أحد الوالدين أو شخص بالغ موثوق. أما الميزة الجديدة فتضيف إشعارات استباقية للآباء عندما تشير المحادثات إلى وجود خطر محتمل.

ولتحديد المحادثات التي تستدعي إرسال تنبيه، تعاونت Meta مع أولياء الأمور وخبراء الصحة النفسية لتحديد مؤشرات، بما في ذلك الإشارات غير المباشرة إلى إيذاء النفس، ثم طورت نظاماً مخصصاً للذكاء الاصطناعي لاكتشاف هذه المحادثات.

وأكدت الشركة أن جميع المحادثات التي يرصدها النظام ستخضع لمراجعة بشرية قبل إرسال أي إشعار. وإذا بقيت نية المراهق غير واضحة، فستعتمد Meta نهج الحذر بإبلاغ الوالدين. وأشارت إلى أن هذا النهج قد يؤدي أحياناً إلى إرسال تنبيهات غير ضرورية، إلا أنها تعتبره نقطة انطلاق مناسبة وستواصل تحسين النظام.

وقال لاري ماجيد، الرئيس التنفيذي والشريك المؤسس لمنظمة ConnectSafely: «رغم إيماني بحق المراهقين في الخصوصية، فإنني أؤمن أيضاً بضرورة إبلاغ الآباء إذا كان ابنهم معرضاً لخطر إيذاء نفسه. ولهذا دعمت هذا النهج وأؤيد قرار Meta بإخطار الآباء عندما تشير المراجعة الدقيقة إلى أن محادثة مع Meta AI تتضمن مؤشرات على احتمال الانتحار أو إيذاء النفس تستوجب التنبيه. وأقدّر نجاح Meta في تحقيق التوازن بين حماية خصوصية المراهقين وتزويد الآباء بالمعلومات اللازمة لدعم أبنائهم».

وأصبحت التنبيهات متاحة حالياً للآباء الذين يستخدمون ميزة الإشراف الأبوي في Instagram داخل الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، على أن يتم توسيع نطاقها عالمياً بحلول نهاية العام. وتبني هذه الميزة على الإشعارات الحالية التي تُرسل عند قيام المراهقين الخاضعين للإشراف بالبحث المتكرر عن مصطلحات مرتبطة بالانتحار أو إيذاء النفس على Instagram خلال فترة زمنية قصيرة.

كما تعمل Meta على تطوير ميزة تتيح إخطار خدمات الطوارئ إذا أشارت المحادثات مع Meta AI، سواء للمراهقين أو البالغين، إلى وجود خطر وشيك للانتحار. وتمثل هذه الميزة امتداداً للممارسات الحالية للشركة عبر Facebook وInstagram، حيث يتم إبلاغ خدمات الطوارئ عند رصد منشورات تشير إلى خطر انتحار موثوق. ووفقاً للشركة، فقد أجرت أكثر من 19 ألف إحالة من هذا النوع حول العالم خلال العام الماضي، مما ساعد فرق الاستجابة الأولى على إجراء زيارات للاطمئنان على الأشخاص المعرضين للخطر.

وأعلنت Meta أيضاً عن تحسينات في طريقة استجابة الذكاء الاصطناعي للمحادثات الحساسة، بعد التشاور مع أكثر من 75 اختصاصياً في الصحة النفسية للمراهقين، إلى جانب مجلس خبراء رفاهية الذكاء الاصطناعي، والمجموعة الاستشارية للانتحار وإيذاء النفس، ومستشاري الشباب.

وقام هؤلاء الخبراء بمراجعة مئات الاستجابات التي يقدمها الذكاء الاصطناعي للاستفسارات المتعلقة بالانتحار وإيذاء النفس، وقيّموا مدى ملاءمتها للمراهقين، كما قدموا توصيات لتحسينها.

واستناداً إلى هذه الملاحظات، تعمل Meta على تحديث استجابات الذكاء الاصطناعي لتكون أكثر تفهماً لمشاعر المراهقين، مع توجيههم إلى مصادر الدعم المناسبة، وتجنب إنهاء المحادثات الحساسة بشكل مفاجئ.

وقالت الدكتورة جي-يون لي، الأخصائية النفسية المرخصة في الولايات المتحدة وأستاذة علم النفس الإرشادي في جامعة هانكوك للدراسات الأجنبية بكوريا الجنوبية: «لفت انتباهي المستوى العالي من الدقة في عملية المراجعة السريرية التي اعتمدتها Meta، إذ لم تقتصر على تقييم الاستجابات الفورية لمخاوف الانتحار وإيذاء النفس، بل شملت أيضاً السياق العام للمحادثة، وآليات المتابعة المناسبة، ومستويات الخطورة المختلفة التي قد تظهر حتى في الحالات عالية الخطورة. ويُعد هذا النوع من التحسين القائم على خبرات المتخصصين والسيناريوهات الواقعية أساسياً لجعل تجارب الذكاء الاصطناعي أكثر أماناً للمراهقين».

وعلاوة على ذلك، توسّع Meta تطبيق إعداد Limited Content الأكثر تشدداً ليشمل محادثات الذكاء الاصطناعي. ويتم تلقائياً تعيين حسابات المراهقين ضمن إعدادات المحتوى المناسبة لمن هم بعمر 13 عاماً فأكثر، حيث يقدم Meta AI استجابات ملائمة للفئة العمرية، ويتجنب الخوض في موضوعات حساسة مثل المحادثات الجنسية أو الرومانسية أو تقديم وصفات للمشروبات الكحولية.

وسيتم تطبيق هذه القيود أيضاً على محادثات Meta AI عندما يفعّل الآباء إعداد Limited Content على Instagram، بحيث يرفض الذكاء الاصطناعي نطاقاً أوسع من الطلبات، مما يقلل بشكل أكبر من احتمالية التفاعلات غير المناسبة.

ومن خلال هذه التحديثات، تواصل Meta AI توسيع منظومة الحماية الخاصة بها عبر الجمع بين الإشراف الأبوي، والاستجابات المطورة بمساهمة الخبراء، وإمكانات التدخل في حالات الطوارئ، وضوابط المحتوى الأكثر صرامة، بما يعزز حماية المراهقين أثناء المحادثات الحساسة.

مقالات ذات صلة

عرض الكل