بين الحماية والوصاية.. "Character.AI" تغلق أبوابها أمام القُصّر بعد انتحار مراهق

تقوم Character.AIبحظر القُصّر من استخدام روبوتاتها الحوارية وسط تزايد المخاوف بشأن تأثير محادثات الذكاء الاصطناعي على الأطفال.

وتواجه الشركة عدة دعاوى قضائية تتعلق بسلامة الأطفال، بينها دعوى رفعتها والدة مراهق تقول إن روبوتات الشركة دفعت ابنها إلى الانتحار.

وقالت شركة Character Technologies إن المستخدمين دون 18 عاما لن يتمكنوا من خوض محادثات مفتوحة بلا قيود مع شخصيات الدردشة الخاصة بها، وسيطبّق الروبوت حدّ استخدام لمدة ساعتين بحلول 25 نوفمبر.

وتتيح الشركة للمستخدمين إنشاء شخصيات قابلة للتخصيص أو التفاعل معها تبدو وكأنها "حية وأشبه بالبشر"، لمجموعة من الأنشطة مثل اللعب أو إجراء مقابلات عمل تجريبية.

وقالت Character.AI إنها ستطرح وظائف للتحقق من العمر للمساعدة في تحديد المستخدمين الذين تقل أعمارهم عن 18 عاما. ويتجه عدد متزايد من منصات التكنولوجيا إلى اختبارات العمر لإبعاد الأطفال عن أدوات غير آمنة لهم.

غير أن هذه الوسائل غير مثالية، وكثير من الأطفال يجدون طرقا لتجاوزها. فعمليات مسح الوجه مثلا لا تستطيع دائما تحديد ما إذا كان الشخص يبلغ 17 أو 18 عاما. وهناك مخاوف تتعلق بالخصوصية بشأن مطالبة الناس برفع بطاقات هوية حكومية.

وأضافت Character.AI أنها تعمل على ميزات جديدة للأطفال، مثل إنشاء مقاطع فيديو وقصص وبثوث مع شخصيات ذكاء اصطناعي، إضافة إلى إنشاء مختبر لأمان الذكاء الاصطناعي. كما قالت الشركة إنها بصدد إنشاء مختبر لأمان الذكاء الاصطناعي.

وقالت ميتالي جاين، المديرة التنفيذية لمشروع "Tech Justice Law Project"،إن خطوة Character.AI "لا تزال تترك الكثير من التفاصيل من دون حسم".

وأضافت المتحدثة: "لم يوضحوا كيف سيحوّلون التحقق من العمر إلى إجراءات عملية، وكيف سيضمنون أن تكون أساليبهم مصونة للخصوصية، كما لم يتطرقوا إلى الأثر النفسي المحتمل لتعطيل الوصول فجأة للمستخدمين الصغار، بالنظر إلى التبعية العاطفية التي نشأت عندهم".

ومضت جاين في القول: "فضلا عن ذلك، هذه التغييرات لا تعالج ميزات التصميم الأساسية التي تيسّر هذه التبعيات العاطفية، ليس لدى الأطفال فحسب، بل أيضا لدى من تزيد أعمارهم على 18 عاما".

أكثر من 70 في المئة من المراهقين استخدموا رفاقا مدعومين بالذكاء الاصطناعي ونصفهم يستخدمونهم بانتظام، وفقا لـدراسة حديثةمن "Common Sense Media"، وهي مجموعة تُعنى بدراسة والدفاع عن الاستخدام الرشيد للشاشات والوسائط الرقمية.