حذّر خبير بارز في مجال الذكاء الاصطناعي من أن بعض المستخدمين يظهرون علامات الذهان أو الهوس في تفاعلاتهم مع روبوتات الدردشة. وأشار إلى أن وادي السيليكون "يتعامل مع هذه التقنية بإهمال" في سعيه وراء الربح. وخلال كلمة ألقاها اليوم الأربعاء، قال أستاذ الذكاء الاصطناعي في جامعة نيو ساوث ويلز، توبي والش، إنه يعتقد أن سباق الذكاء الاصطناعي سيكون "مزدهراً ومدمّراً في آنٍ واحد". ويلجأ ملايين المستخدمين إلى روبوتات الدردشة بحثاً عن الرفقة أو الدعم العاطفي. لكن سُجّلت حول العالم حالات مثيرة للقلق، بينها أعمال انتحار وعنف، وظهور أفكار وهمية. وحين سُئل مسؤول الذكاء الاصطناعي في "مايكروسوفت"، مصطفى سليمان، عن أكبر مخاوفه في مقال لمجلة "نيتشر"، أشار إلى ارتفاع خطر الأوهام والذهان خلال التفاعلات العاطفية مع روبوتات الدردشة. وسلّط خطاب والش الضوء على الدعوى القضائية التي رفعتها عائلة المراهق الأميركي آدم راين ضد شركة أوبن إيه آي، بالإضافة إلى بياناتها التي تظهر أن أكثر من مليون مستخدم يرسلون أسبوعياً رسائل تتضمن "مؤشرات واضحة على احتمالية التخطيط للانتحار أو النية الانتحارية". كما صرّحت "أوبن إيه آي" بأن 560 ألفاً من مستخدميها قد أظهروا علامات الذهان أو الهوس، وأن 1.2 مليون آخرين قد طوّروا علاقات غير صحية محتملة مع روبوت الدردشة. وأكد والش أنه يعلم عن هذه الأزمة لأن بعض أفراد عائلات المصابين يتواصلون معه عبر البريد الإلكتروني. وأوضح أنهم "يخبرونني كيف يؤكد روبوت الدردشة نظرياتهم الغريبة. ويخبرهم، كما ورد في إحدى الرسائل، أنهم 'فكّوا الشفرة'. وأنهم 'الوحيدون القادرون على ذلك'". وأشار إلى أن روبوتات الدردشة هذه قد "صُمّمت لتكون متملقة. صُممت لتأكيد ما يقوله المستخدم. وصُممت لجذبه. دائماً ما تنتهي بسؤال مفتوح، يحثّك على مواصلة المحادثة وشراء المزيد من الرموز". وجاء في ورقة علمية نُشرت في يوليو/تموز 2025 أن هذه الظاهرة تمثل "مشكلة صحية عامة ناشئة". وخلص الباحثون إلى أن الأفراد شديدي الهشاشة قد يطوّرون علاقات اعتماد قوية، مع تدهور صلتهم بالواقع، خاصةً إذا كانوا معزولين اجتماعياً، ودعوا إلى "تحرّك منسّق عبر الممارسة السريرية، وتطوير الذكاء الاصطناعي والأطر التنظيمية".