گاهی آدم‌ها درد‌ و دل‌های‌شان را اول برای یک ربات می‌نویسند، نه برای آدم‌های دوروبرشان. حالا OpenAI می‌خواهد اگر این دردها خطرناک شد، یک نفر واقعی هم باخبر شود.

OpenAI در جدیدترین آپدیت ChatGPT قابلیتی به اسم «Trusted Contact» معرفی کرده؛ ویژگی‌ای که به کاربران اجازه می‌دهد یک فرد مورد اعتماد مثل دوست، عضو خانواده یا مراقب را در تنظیمات انتخاب کنند تا اگر سیستم نشانه‌های جدی خودآزاری یا بحران روحی را تشخیص داد، به او هشدار داده شود.

این قابلیت فعلاً اختیاری است و فقط برای کاربران بزرگسال فعال می‌شود. روند کار هم این‌طور است که ChatGPT ابتدا خودِ کاربر را تشویق می‌کند با یک آدم واقعی تماس بگیرد. بعد اگر سیستم‌های امنیتی OpenAI مکالمه را پرخطر تشخیص دهند، تیم انسانی بررسی می‌کند و در صورت تأیید، یک پیام کوتاه برای فرد مورد اعتماد ارسال می‌شود؛ بدون اینکه متن چت یا جزئیات خصوصی کاربر فاش شود.

این تغییر بخشی از موج جدید نگرانی‌ها درباره تأثیر چت‌بات‌ها بر سلامت روان کاربران است؛ مخصوصاً بعد از گزارش‌هایی که درباره وابستگی عاطفی یا گفتگوهای خطرناک با هوش مصنوعی منتشر شد.

OpenAI می‌گوید در توسعه این سیستم با بیش از ۱۷۰ متخصص سلامت روان همکاری کرده تا واکنش ChatGPT در گفتگوهای حساس، آرام‌تر، مسئولانه‌تر و ایمن‌تر باشد.

به نظر می‌رسد نسل جدید دستیارهای هوش مصنوعی قرار نیست فقط سؤال جواب کنند؛ بلکه کم‌کم وارد نقش‌هایی می‌شوند که تا همین چند سال پیش کاملاً انسانی به نظر می‌رسید.

منبع: گلف‌نیوز