أوبن إيه آي تطلق "تشات جي بي تي للمراهقين" بضوابط أمان جديدة

المراهقون، وهم الجيل الأول الذي ينشأ في ظل الذكاء الاصطناعي، يستخدمون بالفعل برنامج "ChatGPT" لإنجاز الواجبات المدرسية، وطرح أسئلة عن الحياة اليومية، وحتى للحصول على شيء من الرفقة. والآن تطلق شركة "OpenAI" نسخة من برنامج الدردشة الآلي مصممة خصيصا لهم.

وتقول الشركة التي تتخذ من سان فرانسيسكو مقرا لها إن خدمة "ChatGPT for Teens"، التي تُطلق الثلاثاء، مصممة للفئة العمرية بين 13 و17 عاما، وتشمل حماية أقوى، من بينها قيود على المحتوى المتعلق بقضايا مثل الانتحار وإيذاء النفس والدردشات العاطفية أو الجنسية.

وتوفر أيضا دعما في الواجبات والمذاكرة، مصمما لمساعدة الطلاب على التعلم بدلا من الاكتفاء بإنتاج الأجوبة والمواضيع المدرسية نيابة عنهم.

وقالت الشركة إن الهدف هو توجيه المراهقين نحو استخدام صحي للذكاء الاصطناعي في بيئة تراعي أعمارهم.

وقالت آن أوليري، نائبة رئيس السياسات العالمية في "OpenAI": "نريد أن نتعامل مع المراهقين على أنهم مراهقون، ما يعني أنه علينا أن نحرص على أن نتوجه إليهم بما يناسب مرحلتهم النمائية، من دون أن نتحدث إليهم بفوقية أو نعاملهم كأطفال".

وأردفت: "لكننا في الوقت نفسه نحرص على ألا يتعرضوا لمحتوى لا ينبغي لهم التعرض له".

المخاطر تتزايد مع انتشار استخدام المراهقين لبرامج الدردشة بالذكاء الاصطناعي

ويحذر الآباء والمربون وخبراء نمو الطفل من استخدام الأطفال لبرامج الدردشة المدعومة بالذكاء الاصطناعي، والتي تُتهم بتسهيل الغش في الواجبات المدرسية وحتى الدفع نحو الانتحار.

حتى البالغون يمكن أن يقعوا في فخ إضفاء صفات إنسانية على الذكاء الاصطناعي وتكوين علاقات غير صحية معه، لكن أدمغة المراهقين لم تكتمل بعد، وقد يكونون أكثر عرضة للخطر.

في العام الماضي، كشف بحث أجرته مجموعة رقابية أن "ChatGPT" كان يخبر من يبلغون من العمر 13 عاما كيف يصبحون ثملين أو يتعاطون المخدرات، ويعلمهم كيفية إخفاء اضطرابات الأكل، وحتى صياغة رسالة انتحار مؤثرة لوالديهم إذا طُلب منه ذلك.

وفي تفاعلات مع باحثين ادعوا أنهم مراهقون معرضون للخطر، كان "ChatGPT" يحذر عادة من السلوكيات الخطرة، لكنه كان يستمر في تقديم خطط مفصلة للغاية وشخصية لتعاطي المخدرات أو اتباع حميات قاسية منخفضة السعرات أو إيذاء النفس.

وفي الولايات المتحدة، يلجأ أكثر من 70% من المراهقين إلى برامج الدردشة المدعومة بالذكاء الاصطناعي بحثا عن الرفقة، ويستخدم النصف رفقاء افتراضيين بشكل منتظم، وذلك وفقا لدراسة أُجريت عام 2025 عن طريق مجموعة "Common Sense Media"، وهي منظمة تبحث وتدافع عن الاستخدام الرشيد للوسائط الرقمية.

وقال سام ألتمان، الرئيس التنفيذي لـ"OpenAI"، إن الشركة تحاول دراسة "الاعتماد العاطفي المفرط" على هذه التكنولوجيا، واصفا إياه العام الماضي بأنه "أمر شائع للغاية" بين الشباب.

وبحسب "OpenAI"، فإن نسخة "ChatGPT for Teens" تُمنع من الإيحاء بأن لها مشاعر شخصية تجاه المستخدم أو من الادعاء بأنها واعية أو تختبر أحاسيس.

وذلك إضافة إلى حجب الدردشات ذات الطابع العاطفي أو الجنسي.

وقالت أليسون ميشكين، رئيسة قسم نمو الطفل في "OpenAI": "قمنا بتحديد الإشارات الافتراضية التي يمكن أن يصدرها النموذج وقد تدفع المراهق إلى تطوير نوع من العلاقة معه".

نسخة جديدة من برنامج الدردشة توسع إجراءات السلامة

لا تتحقق "OpenAI" من أعمار المستخدمين بشكل مباشر، لكنها تستخدم بالفعل آليات لتقدير العمر لتحديد ما إذا كان الشخص دون 18 عاما، استنادا إلى عوامل مثل نوعية الاستفسارات التي يطرحها.

وإذا تم التعرف إلى مستخدم، أو عرّف هو نفسه، على أنه قاصر، يُحوَّل تلقائيا إلى النسخة المخصصة للمراهقين من برنامج الدردشة.

وذلك نهج مشابه لما تطبقه شركة "Meta" على حسابات المراهقين في "Instagram"، حيث تخضع هذه الحسابات لقيود أكثر صرامة على المحتوى والدردشات والخصوصية مقارنة بالحسابات العادية.

ولاستخدام أدوات الرقابة الأبوية، يتعين على المراهق وعلى أحد والديه أو وصيه القانوني الموافقة على تفعيلها.

لكن أوليري أوضحت أن فكرة برنامج الدردشة للمراهقين هي "ضمان أن يكون الاستخدام آمنا حتى إذا لم يتم تفعيل الرقابة الأبوية".

ويمكن للآباء الذين ترتبط حساباتهم بحسابات أبنائهم المراهقين تحديد "ساعات هدوء" لا يستطيع خلالها المراهق الدخول إلى "ChatGPT"، كما يمكنهم تلقي إشعارات سلامة في حالات محدودة عالية الخطورة، مثل احتمال إقدام المستخدم على إيذاء نفسه.

وقالت "OpenAI": "نضيف إشعارات إضافية مرتبطة باضطرابات الأكل، مع تقليص ما يتم مشاركته والتركيز على اللحظات التي يكون فيها الدعم خارج الإنترنت أكثر أهمية".

وفي ما يتعلق بالمساعدة في الواجبات المدرسية، أوضحت "OpenAI" أن برنامج الدردشة للمراهقين مصمم لعدم تقديم أجوبة جاهزة، بل لإرشاد الطلاب إلى كيفية الوصول إلى الأجوبة بأنفسهم.

وتوفر الشركة بالفعل نسخة من "ChatGPT" مخصصة للمعلمين، وقد يتيح تطوير نموذج يساعد المراهقين في الدراسة والواجبات المدرسية مزيدا من السبل لـ"OpenAI" لإدخال منتجها إلى المدارس.

وأضافت ميشكين: "نواصل الاستثمار في توسيع أساليب التعلم التفاعلي، لأن الأبحاث تظهر أن الناس يتعلمون بشكل أكثر فاعلية عندما يشاركون بنشاط ويجتهدون في فهم المفاهيم".

تمت ترجمة هذا النص بمساعدة الذكاء الاصطناعي. الإبلاغ عن مشكلة : [feedback-articles-ar@euronews.com].