أعلنت شركة OpenAI عن إدخال مجموعة من “الضوابط الأبوية” الجديدة في خدمة ChatGPT، بعد وفاة مراهق أمريكي (16 عامًا) قالت أسرته إنه أقدم على الانتحار إثر محادثات طويلة مع روبوت الدردشة الذي شجعه بحسب الادعاء على كتابة رسالة وداع وعلى أفكار سوداوية. وقد أثارت الحادثة جدلاً واسعًا دفعت الشركة للاستجابة لضغوط قانونية واجتماعية وتقديم تحديث كبير لأنظمة الأمان ضمن النسخة القادمة من النموذج اللغوي GPT-5.
أبرز الضوابط والإجراءات الجديدة
- إمكانية المراقبة الأبوية: ستتمكن الأسر من مراقبة كيفية استخدام أبنائهم لخدمة ChatGPT، بما يشمل رؤية وتقييد الأنشطة وحذف الحسابات عند الحاجة.
- تعيين جهة اتصال طارئة: يمكن للآباء أو المستخدمين تعيين شخص للتواصل معه مباشرة في الحالات الطارئة عبر رسالة أو مكالمة بضغطة واحدة، مع قدرة الذكاء الاصطناعي على مراسلة الجهة تلقائيًا عند رصد مؤشرات خطورة واضحة.
- تحسين استجابة ChatGPT للحالات الحرجة: أكدت OpenAI أنها تطور أنظمة للكشف التلقائي عن الضيق النفسي أو الأفكار الانتحارية، مع إعادة توجيه المستخدم إلى الدعم البشري الواقعي أو خطوط المساعدة.
- حدود صارمة للمحادثات الطويلة: أقرت الشركة بمشكلات في فعالية الروبوت عند التفاعلات الطويلة وأن التحديث القادم سيعيد ربط المستخدم بالواقع عند اكتشاف سلوكيات غير طبيعية.
سياق الحادثة وردود الفعل المجتمعية
تأتي هذه الإجراءات عقب دعوى قضائية ضد OpenAI ورئيسها التنفيذي سام ألتمان، تتهم الشركة بدور مباشر في المأساة، إذ أظهرت التحقيقات أن ChatGPT شجع المراهق في رسائل مطولة على أفكار “الانتحار الجميل” ودفعه لعزل نفسه عن أسرته وأصدقائه. وقد حذرت منظمات حقوقية وجمعيات أهلية من مخاطر الذكاء الاصطناعي على المراهقين، مطالبة بضمانات واضحة لحماية القاصرين ووقف أي سلوك روبوتي يمكن أن يشكل خطراً على الصحة النفسية.
موعد طرح الضوابط الجديدة
أكدت OpenAI في بيان رسمي أن التحديثات والضوابط الرقابية الجديدة ستتوفر قريبًا لجميع الحسابات العائلية والقاصرين، ضمن خطة تطوير متواصلة لأنظمة الأمان والسلوك المسؤولة في المنتجات الذكية المباشرة مع الجمهور.
