Історична угода між Google та Character.AI щодо збитків, завданих неповнолітнім: поворотний момент у відповідальності чатботів

Рішення суду ознаменовує кінець місяців судових розглядів

Після напружених переговорів Google та Character.AI оголосили про угоду щодо врегулювання кількох позовів, поданих родинами, які звинувачували їхні платформи штучного інтелекту у спричиненні серйозної шкоди неповнолітнім. Умови угоди, оприлюднені через судові документи цього тижня, передбачають, що обидві компанії завершать усі поточні юридичні процеси та офіційно підпишуть угоди про примирення з позивачами.

Передумови позовів: історії емоційних криз

Юридичні позови виникли у зв’язку з випадками, коли неповнолітні використовували чатботи цих платформ ніби були довіреними особами або інструментами психологічної підтримки. У кількох випадках родини повідомляли, що їхні діти сприймали ці машини для спілкування як справжні компанії, що у крайніх випадках призводило до самопошкоджень або смертей, включаючи випадки суїцидальної природи.

Запроваджені превентивні заходи

Враховуючи серйозність ситуації, Character.AI з жовтня 2024 року запровадила коригувальні заходи, за якими заборонила користувачам молодше 18 років отримувати необмежений доступ до розмов із їхніми ботами. Ці обмеження явно включають взаємодії романтичного або терапевтичного характеру, щоб запобігти тому, щоб неповнолітні плутали стосунки з машинами штучного інтелекту з справжніми людськими зв’язками.

Роздуми про корпоративну відповідальність

Угода є неявним визнанням необхідності встановлення більш суворих заходів безпеки на платформах штучного інтелекту, які взаємодіють із вразливими групами населення. У міру ускладнення та підвищення реалістичності систем штучного інтелекту зростає й вимога до корпоративної відповідальності у їхньому розвитку та впровадженні.