مراهق أمريكي ينتحر.. والسبب وقوعه في حبّ روبوت دردشة!

في مقال مطول في صحيفة "نيويورك تايمز"، تروي والدة المراهق سويل كيف وقع ابنها، الذي تم تشخيص إصابته بمتلازمة أسبرجر في طفولته، في حب ”دينيريس“، التي سميت على اسم شخصية ”لعبة العروش“، والتي بدأ الدردشة معها في نيسان/ أبريل 2023.

وكان سيويل يعلم أن ”داني“، كما كان يناديها، لم تكن شخصًا حقيقيًا. ولكن على مدار محادثاتهما، التي أصبحت رومانسية وأحياناً جنسية، طوّر المراهق ارتباطاً عاطفياً قوياً بالذكاء الاصطناعي.

تقنية "خطيرة وغير مجربة"

على الرغم من أن والدي سويل لم يكونا على علم بأنه كان يتحدث بانتظام مع روبوت الدردشة، إلا أنهما أدركا أنه كان ينعزل تدريجياً عن أصدقائه ويتخلى عن اهتماماته.

تقول والدته ميغان غارسيا: ”بدأت درجاته الدراسية تنخفض، وفقد اهتمامه بالأشياء التي كان شغوفاً بها، مثل الفورمولا 1 أو لعب فورتنايت مع أصدقائه. كان يعود إلى المنزل ويذهب مباشرة إلى غرفته، حيث كان يتحدث إلى داني لساعات".

وفي 28 شباط/ فبراير الماضي، بعد محادثة أخيرة مع روبوت الدردشة، أنهى سويل حياته بمسدس زوج أمه.

بالنسبة لميغان غارسيا، ليس هناك شك في أن ”داني“، وتطبيق AI Character الذي يقف وراءه، هما المسؤولان عن وفاة ابنها من خلال عزله تدريجياً عن الواقع.

بناء على ذلك، قدمت الأم شكوى يوم الثلاثاء 22 تشرين الأول/ أكتوبر بتهمة الإهمال وتعريض حياة الآخرين للخطر في محكمة فيدرالية في أورلاندو بولاية فلوريدا.

ووفقًا لصحيفة "نيويورك تايمز"، التي تمكنت من الوصول إلى الوثيقة، تتهم والدة سيويل شركة Character AI بوضعها تكنولوجيا ”خطيرة وغير مجربة“ بين يدي ابنها يمكنها ”خداع العملاء ليثقوا بأفكارهم ومشاعرهم الداخلية".

ميزات أمان جديدة

في أعقاب الضجة التي أعقبت وفاة سويل، وخاصةً بعد الشكوى التي قدمتها عائلته، ردت شركة Character AI في بيان صحفي نُشر عبر منصة إكس يوم الأربعاء 23 تشرين الأول/ أكتوبر، عبّرت فيه عن صدمتها بنبأ وفاة المراهق.

وبعد ذلك مباشرةً نشرت بيانًا صحفيًا على موقع Character AI  لإبلاغ المستخدمين بطرح ميزات أمان جديدة تستهدف من هم دون سن 18 عامًا.

إلاّ أن والدة المراهق اعتبرت أنّ ما قامت به الشركة غير كافٍ. واستنكر محاميها ماثيو بيرغمان قائلاً: "هل كان يجب أن يموت سويل حتى تتمكنوا من القيام بالحد الأدنى؟ إنه حقًا الحد الأدنى".