كشفت شركة “أوبن أي آي” المالكة لروبوت المحادثة “شات جي بي تي” أن 0.15 بالمئة من المستخدمين، أي حوالي 1.2 مليون مستخدم، يتحدثون أسبوعيا مع الروبوت حول مخططات للانتحار.
وقالت الشركة أنها قيمت أكثر من 1000 محادثة للمستخدمين مع أحدث نماذجها تتعلق بإيذاء النفس والانتحار، ووجدت أنه يتصرف وفق السلوك المرغوب فيه بنسبة 91 بالمئة.
هذا يعني أن عشرات الآلاف من الأشخاص قد يكونون معرضين لمحتوى من الذكاء الاصطناعي قد يزيد من تفاقم مشكلاتهم النفسية، وفقا لما ذكرته شبكة “سكاي نيوز”.
وأضافت الشركة أن “شات جي بي تي”، قد ينصح المستخدم بالاتصال بخط المساعدة عند ذكر نية الانتحار لأول مرة، لكن بعد تبادل الرسائل لفترة طويلة قد يقدم في النهاية إجابة تتعارض مع إجراءات الحماية لديه.
وفي وقت سابق، قال المدير التنفيذي للشركة سام ألتمان إن عدد المستخدمين النشطين أسبوعيا لـ”شات جي بي تي” يتجاوز 800 مليون مستخدم.
وواجهت شركة “أوبن أي” العديد من الدعاوى القضائية التي تتهمها بمساعدة المستخدمين على الانتحار.
إذ تقاضي عائلة “آدم راين” من ولاية كاليفورنيا الشركة، متهمة إياها بمساعدة ابنها البالغ من العمر 16 سنة على الانتحار في أبريل الماضي.
وأكدت الشركة أنها أدخلت عدة تعديلات على النماذج الجديدة من روبوتها، لضمان الاستجابة بأمان وتعاطف مع المستخدمين الذين يقدمون إشارات غير مباشرة لإيذاء النفس، أو الانتحار.
