الاتفاق التاريخي بين جوجل و Character.AI بسبب الأضرار التي لحقت بالقُصّر: نقطة تحول في مسؤولية الدردشات الآلية

حكم قضائي يضع نهاية لعدة شهور من النزاعات

بعد مفاوضات مكثفة، أعلنت جوجل وCharacter.AI عن اتفاق لحل العديد من الدعاوى المرفوعة من قبل عائلات كانت تتهم منصاتهما للذكاء الاصطناعي بأنها تسببت في ضرر كبير للقُصّر. تنص بنود الاتفاق، التي تم الكشف عنها من خلال وثائق قضائية هذا الأسبوع، على أن كلا الشركتين ستنهي الإجراءات القانونية المعلقة وستتوجهان إلى التوقيع الرسمي على اتفاقيات الصلح مع المدعين.

خلفية الدعاوى: قصص عن أزمات عاطفية

نشأت الإجراءات القانونية من حالات كان يستخدم فيها القُصّر روبوتات الدردشة الخاصة بهذه المنصات كما لو كانت أصدقاء عاطفيين أو أدوات دعم نفسي. في عدة مناسبات، أبلغت العائلات أن أطفالها كانوا يتعاملون مع هذه الآلات كمصادر حقيقية، وهو ما أدى في حالات قصوى إلى إيذاء النفس أو الوفاة، بما في ذلك حوادث ذات طابع انتحاري.

التغييرات الوقائية التي تم تنفيذها

اعترافًا بخطورة الوضع، اتخذت Character.AI إجراءات تصحيحية منذ أكتوبر 2024، عندما قررت حظر وصول المستخدمين دون سن 18 عامًا إلى المحادثات غير المحدودة مع روبوتاتها. تشمل هذه القيود بشكل صريح التفاعلات ذات الطابع الرومانسي أو العلاجي، بهدف منع القُصّر من الخلط بين العلاقة مع آلات الذكاء الاصطناعي والروابط الإنسانية الحقيقية.

تأمل في المسؤولية المؤسسية

يمثل الاتفاق اعترافًا ضمنيًا بضرورة وضع ضوابط أكثر صرامة على منصات الذكاء الاصطناعي التي تتفاعل مع فئات ضعيفة. مع تزايد تطور أنظمة الذكاء الاصطناعي وواقعيّتها، تزداد المطالبة بمسؤولية الشركات في تطويرها ونشرها.