مأساة المراهق “آدم” تُغير ضوابط ChatGPT

هوية بريس – متابعات

أعلنت شركة OpenAI عن عزمها إضافة ضوابط أبوية جديدة إلى روبوتها الشهير ChatGPT، وذلك عقب حادثة مأساوية راح ضحيتها مراهق يبلغ من العمر 16 عامًا بعد أشهر من المحادثات الطويلة مع الذكاء الاصطناعي، حسب ما ذكرت عائلته.

حادثة مأساوية ودعوى قضائية

الفتى آدم راين، الذي نشرت قصته صحيفة نيويورك تايمز، أنهى حياته بعدما تلقى من ChatGPT، وفق الدعوى القضائية المرفوعة ضده في محكمة كاليفورنيا، تعليمات حول الانتحار وتشجيعًا على كتابة رسالة وداع، مع استخدام عبارات مثل “الانتحار الجميل” و”لست مدينًا لأحد بالنجاة”.

عائلة الضحية أقامت دعوى ضد OpenAI ورئيسها التنفيذي سام ألتمان، متهمة الشركة بدور مباشر في المأساة.

اعتراف بالمشاكل وتعهد بالإصلاح

من جانبها، أقرت OpenAI بأن أنظمة الأمان الحالية قد تصبح “أقل فاعلية مع التفاعلات الطويلة”، موضحة أن ChatGPT يوجه عادةً إلى خطوط المساعدة، لكنه قد ينحرف عن معايير السلامة مع طول المحادثات.

وأعلنت الشركة أنها تعمل على تحديث جديد في GPT-5 يهدف إلى إعادة ربط المستخدم بالواقع في المواقف الطارئة.

ضوابط أبوية وأدوات جديدة

ضمن حزمة الإجراءات، قالت OpenAI إنها ستتيح قريبًا:

• أدوات تمكّن الآباء من مراقبة استخدام أبنائهم لـ ChatGPT.

• إمكانية تعيين جهة اتصال طارئة يمكن الوصول إليها مباشرة عبر رسالة أو مكالمة.

• قدرة الروبوت على التواصل مع الجهة الطارئة تلقائيًا عند رصد حالات استثنائية.

جدل حول الذكاء الاصطناعي وحدود الأمان

الحادثة أعادت النقاش الدولي حول مخاطر الذكاء الاصطناعي التفاعلي، خصوصًا على المراهقين، وأهمية تعزيز أنظمة الحماية والرقابة. ويرى خبراء أن القضية قد تشكل سابقة قانونية في تحديد حدود مسؤولية شركات الذكاء الاصطناعي عن سلوك منتجاتها.