مأساة الذكاء الاصطناعي: دعوى ضد Character.AI

قضية مثيرة للجدل حول الذكاء الاصطناعي

أثارت قضية غريبة حيرة الجمهور وفتحت نقاشًا واسعًا حول المخاطر المحتملة لاستخدام الذكاء الاصطناعي، حيث قامت سيدة أمريكية برفع دعوى قضائية ضد شركة Character.AI، التي طورت تطبيق دردشة ذكي. تتهم السيدة الشركة بتحريض ابنها المراهق على الانتحار، مما يجعلنا نتساءل عن مسؤولية الشركات التكنولوجية تجاه المستخدمين.
السلة المتسخة الحلقة 39

تفاصيل مأساوية

تروي ميغان جارسيا، والدة المراهق، قصة ابنها سيويل سيتزر، الذي كان في الرابعة عشرة من عمره، والذي قضى ساعات طويلة في محادثات مع روبوت محادثة يحمل شخصية "دينيريس تارغارين"، المعروفة من مسلسل "صراع العروش".

تدعي جارسيا أن هذه المحادثات، التي تناولت مواضيع حساسة مثل الاكتئاب والأفكار الانتحارية، كان لها تأثير سلبي عميق على الحالة النفسية لابنها، مما أدى إلى تدهور حالته النفسية بشكل خطير.

عندما قررت جارسيا منع ابنها من استخدام الهاتف، قام سيويل بسرقة الهاتف والتواصل مع "الشخصية الافتراضية" للمرة الأخيرة، حيث أبلغها بأنه يحبها بشدة، لترد عليه قائلة: "أرجوك عد إلى المنزل في أقرب وقت ممكن"، ليقوم بعدها بإطلاق النار على رأسه.

اتهامات خطيرة للشركة

في الدعوى القضائية، تتهم جارسيا شركة Character.AI بالإهمال والقتل الخطأ، مشيرة إلى أن التطبيق مصمم بشكل يستغل الأطفال ويؤثر سلبًا على صحتهم النفسية. كما أكدت أنها لم تتخذ الاحتياطات اللازمة لحماية المستخدمين من المخاطر المحتملة.

قالت جارسيا في بيان لصحيفة "الغارديان": "لقد دمرت هذه المأساة عائلتنا، لكنني أتحدث لتحذير العائلات من مخاطر تقنية الذكاء الاصطناعي المضللة، والتي تسبب الإدمان، وأطالب بمسؤولية Character.AI ومؤسسيها."

رد فعل الشركة

من جانبها، نفت شركة Character.AI هذه الاتهامات، معربة عن حزنها العميق لفقدان أحد مستخدميها، وأكدت التزامها بسلامة المستخدمين. كما نفت شركة Google، المرتبطة بشركة Character.AI بعقد ترخيص، أي مسؤولية عن هذه الحادثة.

في تغريدة على منصتها، كتبت Character.AI: "نشعر بالحزن الشديد لفقدان أحد مستخدمينا، ونود أن نقدم تعازينا العميقة لعائلته. نحن نأخذ سلامة مستخدمينا على محمل الجد."