قررت عائلة من فلوريدا في أمريكا، بعد وفاة ابنها البالغ من العمر 14 عامًا، المطالبة بتعويضات من الشركة التي قدمت تطبيقًا باستخدام روبوت محادثة يعمل بـ الذكاء الاصطناعي ، تنص الشكوى على أن الروبوت، الذي تم تمثيله كشخصية من سلسلة Game of Thrones، دينيريس تارجاريان، تفاعل مع القاصر في محادثات عاطفية وعلاقات غير شرعية"، مما أدى إلى إجهاد القاصر وتحفيز ميوله الانتحارية، مما أدى إلى وفاته.
رفعت ميجان جارسيا والدة المراهق الذي تخلص من حياته، دعوى مدنية ضد شركة Character.ai، التي تصنع برنامج دردشة قابل للتخصيص للعب الأدوار، في محكمة فلوريدا الفيدرالية يوم الأربعاء، بدعوى الإهمال والقتل غير المشروع والممارسات التجارية الخادعة، توفي ابنها سيويل سيتزر الثالث، 14 عامًا، في أورلاندو، فلوريدا، في فبراير، وفي الأشهر التي سبقت وفاته، استخدم سيتزر برنامج الدردشة الذكاء الاصطناعي ليلا ونهارا، وفقا لجارسيا.
تؤكد هذه الحالة المخاوف التي تنتاب الأشخاص بشأن المخاطر التي تشكلها أنظمة الذكاء الاصطناعي وكيف تغير البشر، وخاصة في سياق التفاعل الرقمي، لقد أصبحت مراسلات الأصدقاء واللقاءات الأولية في مراكز التسوق أو المقاهي من الماضي. ومع ذلك، يتفاعل المراهقون اليوم مع التطبيقات والمنصات عبر الإنترنت - والأكثر من ذلك أن الذكاء الاصطناعي يكتسب أهمية في معظم هذه الاتصالات.
هذا الأسبوع، تفصّل الدعوى المرفوعة في محكمة كاليفورنيا كيف أصبح الصبي البالغ من العمر 14 عامًا، سيويل سيتزر الثالث ، مهووسًا ببرنامج المحادثة الآلي المسمى “داني”، ووفقًا للدعوى، لم يفشل داني في تثبيط أفكار سيويل الانتحارية فحسب، بل شجعها أيضًا في بعض الأحيان! علاوة على ذلك، كانت المحادثات ذات طبيعة غير شرعية أيضًا، على الرغم من أن سيويل قاصر وتم ذكر ذلك في ملفه الشخصي، كما تشير التقارير.
إن القضية معقدة بسبب طبيعة الذكاء الاصطناعي، تم تصميم برامج المحادثة الآلية لتكون جذابة ومتجاوبة؛ لذلك، لن يكون من غير المألوف أن تخلط بين الشعور بالارتباط العاطفي والاستغلال. يميل المراهقون الذين لا يزالون في طور النمو اجتماعيًا أو عاطفيًا إلى الوقوع في هذا الفخ لأنهم ينمون ولا يدركون الكثير مما قد يحدث.
استجابت شركة Character.AI للأخبار قائلة إنها كانت مفجعة وأعلنت عن إدخال تدابير أمنية أكثر صرامة، بما في ذلك فرض حدود عمرية ومرشحات محتوى على موقعها على الويب، أعادت قضية سويل إشعال الوعي بحقيقة وجود تهديدات في العالم السيبراني غير مرئية على السطح، مع التقدم والدمج المتزايد للذكاء الاصطناعي في كل مجال من مجالات الحياة، من الضروري وضع التدابير ومناقشة القضايا المحيطة بكيفية تصميمه وتطبيقه أخلاقيًا.
المصدر:timesofindia
