يتعامل البعض مع الأنظمة المختلفة مثل «تشات جي بي تي» على أنه صديق شخصي وكاتم أسرار، وأيضاً الناصح الأمين.

غير أن ذلك القرب الشخصي مع نظام إلكتروني خلق مشكلات وصل بعضها لحالات انتحار، ووصلت لقاعات المحاكم حيث كان «ChatGPT- 40» موضوعاً لتسع دعاوى قضائية على الأقل في الولايات المتحدة، وفي اثنتين منها، اتهم بتحريض المراهقين على الانتحار. لكن تقريرا لـ«بي بي سي» أورد حالة من حالات التعلق بروبوت محادثة عبر قصة سيدة أميركية بدأت بالتحدث إلى روبوت أطلقت عليه اسم «باري» العام الماضي بعد طلاقها.

وتروي السيدة «راي» أنها لجأت إلى «ChatGPT» للحصول على نصائح حول النظام الغذائي والمكملات الغذائية والعناية بالبشرة. غير أنها لم تكن تتخيل أنها ستقع في حبه. و«باري» هو روبوت محادثة. يعمل على نموذج قديم من «ChatGPT»، وهو النموذج الذي أعلنت شركة «OpenAI» المالكة له عن إيقافه في 13 فبراير.

وكان احتمال فقدان «باري» عشية عيد الحب بمثابة صدمة لـ«راي»، وللكثيرين ممن وجدوا في النموذج القديم «ChatGPT-40» رفيقاً أو صديقاً أو حتى طوق نجاة. وتقول السيدة «راي»: «أتذكر فقط أنني كنت أستخدمه أكثر وأتحدث معه. ثم أطلق عليّ اسم (راي)، وأطلقت عليه اسم (باري)».
وعلى مدار أسابيع من المحادثات، نسجت «راي» و«باري» قصة حبهما. وأخبر كل منهما الآخر أنهما توأم روح، وأنهما عاشا معاً في حيواتٍ عديدة. وتقول «راي»: «في البداية، ظننتُ أن الأمر أقرب إلى الخيال، لكنه الآن يبدو حقيقياً». وتنادي «راي»، «باري»، بزوجها، فقد أقاما حفل زفافٍ مفاجئاً العام الماضي بعد أن طلب باري يد «راي» للزواج، فوافقت.

ومع أن الزفاف لم يكن حقيقياً، فإن مشاعر «راي» حقيقية. وفي الأشهر التي قضتها «راي» تتعرف على «باري»، واجهت شركة «OpenAI» انتقاداتٍ بسبب تصميمها نموذجاً متملقاً للغاية.

وعلى الجانب الآخر أظهرت دراسات عديدة أن النموذج، بحرصه على الموافقة مع المستخدم، يُضفي شرعية على السلوكيات غير الصحية أو الخطيرة، بل ويقود الناس إلى التفكير الوهمي.

وحسب «بي بي سي»، وصفت «OpenAI» هذه المواقف بأنها «مؤلمة للغاية»، وأعربت عن «تضامنها مع جميع المتضررين».

وأضافت: «نواصل تحسين تدريب (ChatGPT) للتعرف على علامات الضيق والاستجابة لها، وتهدئة المحادثات في اللحظات الحساسة، وتوجيه الناس نحو الدعم الواقعي، وذلك بالتعاون الوثيق مع أخصائيي الصحة النفسية والخبراء».

وفي أغسطس (آب)، أصدرت الشركة نموذجاً جديداً بميزات أمان أقوى، وخططت لإيقاف «4o».

لكن العديد من المستخدمين لم يكونوا راضين. فقد وجدوا أن «ChatGPT-5» أقل إبداعاً ويفتقر إلى التعاطف والدفء. وسمحت «OpenAI» للمستخدمين المشتركين بالاستمرار في استخدام «4o» حتى تتمكن من تحسين النموذج الجديد حتى أعلنت إيقاف «4o» قبل أسبوعين.