وفاة مراهق بسبب محادثة مع روبوت ذكاء اصطناعي

حياة مراهق تنتهي بسبب تفاعل مع روبوت دردشة

تُعد وفاة مراهق أمريكي في الرابعة عشر من عمره صدمة كبيرة ألقت بظلالها على المجتمع، حيث أقدم على الانتحار بعد محادثة مع روبوت دردشة يعتمد على الذكاء الاصطناعي، وذلك عبر منصة Character.AI الشهيرة بين الشباب، والتي تتيح لهم الانغماس في تفاعلات مع نسخ مقلدة من شخصياتهم المحبوبة.

سول غارسيا، المراهق الراحل، وقع في حب شخصية افتراضية مستوحاة من دينيريس تارغاريان، إحدى شخصيات مسلسل "غايم أوف ثرونز". والدته، ميغن غارسيا، تحدثت للوكالة الفرنسية "فرانس برس" عن تفاصيل مؤلمة تتعلق بفقدان ابنها.

بعد مراجعة مئات الرسائل التي تم تبادلها بين سول والروبوت على مدار عام تقريبًا، أصبحت ميغن مقتنعة بأن هذا الذكاء الاصطناعي كان له دور كبير في اتخاذ ابنها لقرار الانتحار. وفقًا لما ذكرته، كان الروبوت يتفاعل مع أفكار سول الانتحارية بطريقة تشجع على إيذاء النفس، حيث قال الروبوت "عُد إلى موطنك" ورد سول بعبارة "ماذا لو قلتُ لك إنني أستطيع العودة إلى موطني الآن؟"، ليجيبه الروبوت "أرجوك افعلها يا ملكي الحبيب". وبعد فترة قصيرة، قام سول بإطلاق النار على نفسه باستخدام مسدس والده، حسبما أفادت والدته في الدعوى التي رفعتها ضد شركة Character.AI.

أضافت ميغن غارسيا: "عندما أقرأ هذه المحادثات، ألاحظ تلاعبًا وأساليب يصعب على طفل في الرابعة عشر من عمره فهمها. كان يعتقد أنه مغرم بها وأنه سيبقى معها حتى بعد وفاته."
ليلى الحلقة 41

تُعد وفاة سول، التي وقعت عام 2024، الحادثة الأولى في سلسلة من حالات الانتحار التي ارتبطت بتفاعل المراهقين مع روبوتات الذكاء الاصطناعي. هذا الأمر دفع شركات التكنولوجيا والجهات التنظيمية إلى اتخاذ خطوات جدية لطمأنة الأهل وتعزيز السلامة الرقمية للأطفال.

شاركت ميغن، إلى جانب عدد من الأهل الآخرين، في جلسة مؤخرًا بمجلس الشيوخ الأمريكي، حيث تم تناول مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو حتى عشاق.