أحيانًا يكتب الناس آلامهم وأسرارهم أولاً لروبوت، وليس للناس من حولهم. الآن تريد OpenAI أن يتم إبلاغ شخص حقيقي إذا أصبحت هذه الآلام خطيرة.

قدمت OpenAI في أحدث تحديث لـ ChatGPT ميزة تُسمى «Trusted Contact»؛ وهي خاصية تتيح للمستخدمين اختيار شخص موثوق مثل صديق أو أحد أفراد الأسرة أو مقدم الرعاية في الإعدادات، حتى إذا اكتشف النظام علامات جدية على إيذاء النفس أو أزمة نفسية، يتم تنبيهه.

هذه الميزة حاليًا اختيارية وتُفعّل فقط للمستخدمين البالغين. تسير العملية على النحو التالي: يشجع ChatGPT أولاً المستخدم على الاتصال بشخص حقيقي. ثم إذا اعتبرت أنظمة الأمان في OpenAI المحادثة خطرة، يقوم فريق بشري بمراجعتها، وإذا تم التأكيد، يتم إرسال رسالة قصيرة للشخص الموثوق؛ دون الكشف عن نص الدردشة أو التفاصيل الخاصة بالمستخدم.

هذا التغيير هو جزء من موجة جديدة من المخاوف بشأن تأثير الدردشة الآلية على الصحة النفسية للمستخدمين؛ خاصة بعد التقارير التي صدرت حول الاعتماد العاطفي أو المحادثات الخطرة مع الذكاء الاصطناعي.

تقول OpenAI إنها تعاونت في تطوير هذا النظام مع أكثر من 170 متخصصًا في الصحة النفسية لجعل ردود فعل ChatGPT في المحادثات الحساسة أكثر هدوءًا ومسؤولية وأمانًا.

يبدو أن الجيل الجديد من مساعدي الذكاء الاصطناعي لن يقتصر على الإجابة على الأسئلة فقط؛ بل بدأوا تدريجياً في تولي أدوار كانت تبدو قبل بضع سنوات فقط إنسانية بالكامل.

المصدر: غلف نيوز