Историческое соглашение между Google и Character.AI о возмещении ущерба, причиненного несовершеннолетним: поворотный момент в ответственности чатботов

Окончательное решение суда ознаменовало конец месяцев судебных разбирательств

После интенсивных переговоров Google и Character.AI объявили о соглашении по урегулированию нескольких исков, поданных семьями, обвиняющими их платформы искусственного интеллекта в причинении серьезного вреда несовершеннолетним. Условия соглашения, опубликованные в судебных документах на этой неделе, предусматривают, что обе компании завершат текущие судебные процессы и официально подпишут соглашения о примирении с истцами.

Предпосылки исков: истории эмоциональных кризисов

Юридические иски возникли из случаев, когда несовершеннолетние использовали чатботы этих платформ как эмоциональных доверенных лиц или инструменты психологической поддержки. В нескольких случаях семьи сообщали, что их дети воспринимали эти разговорные машины как настоящие компании, что в крайних случаях приводило к самоповреждениям или смертельным исходам, включая случаи суицидального характера.

Принятые профилактические меры

Осознавая серьезность ситуации, Character.AI приняла корректирующие меры с октября 2024 года, когда решила запретить пользователям младше 18 лет доступ к беседам с их ботами без ограничений. Этот запрет явно включает взаимодействия романтического или терапевтического характера, чтобы избежать путаницы у несовершеннолетних между отношениями с ИИ и настоящими человеческими связями.

Размышления о корпоративной ответственности

Соглашение является косвенным признанием необходимости внедрения более строгих мер предосторожности на платформах искусственного интеллекта, взаимодействующих с уязвимыми группами населения. По мере усложнения и повышения реалистичности систем ИИ возрастает требование к корпоративной ответственности в их разработке и внедрении.