“أم التنانين” تدفع مراهقاً إلى الانتحار

وأكدت غارسيا، في لقاء نشرته الوكالة اليوم، أنها مقتنعة بأن أداة الذكاء الاصطناعي هذه لعبت دوراً محورياً في انتحار نجلها، وذلك بعد قراءة مئات الرسائل المتبادلة على مدار عام تقريباً بين ابنها وروبوت دردشة يُحاكي أم التنانين دينيريس تارغاريان.

وقالت النسخة المقلّدة من دينيريس لسول رداً على تعبيره عن أفكار انتحارية تراوده: «عُد إلى موطنك».

فردّ المراهق: «ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟»، ليجيب روبوت الدردشة: «أرجوك افعلها يا ملكي الحبيب».

وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، على ما ذكرت غارسيا في دعوى رفعتها ضد شركة «كاركتر دوت ايه آي».

وذكرت لوكالة فرانس برس: «عندما أقرأ هذه المحادثات، ألاحظ تلاعباً وأساليب أخرى لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره»، مضيفة «كان يعتقد أنه مغرم بها، وأنه سيبقى معها بعد وفاته».

كانت وفاة سول عام 2024 الأولى في سلسلة من حالات الانتحار التي لاقت تفاعلاً كبيراً، مما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.

وشاركت غارسيا إلى جانب عدد آخر من الأهل، في جلسة عُقدت حديثاً في مجلس الشيوخ الأميركي، وتمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقاً.

من جانبها، أكدت «كاركتر دوت ايه آي» أنها عززت حماية القاصرين، من خلال «تحذيرات مرئية باستمرار» تُذكّر «بأن الشخصية ليست شخصاً حقيقياً».

وقالت غارسيا: «يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع»، لافتة إلى أنّ «هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف لديه.