谷歌与Character.AI之间的历史性协议因对未成年人的伤害：聊天机器人责任的转折点

司法判决标志着数月诉讼的终结

经过激烈的谈判，谷歌和Character.AI宣布达成协议，解决由家庭提起的多起诉讼，这些家庭指控他们的人工智能平台对未成年人造成了严重伤害。根据本周公布的司法文件，协议条款规定双方将结束所有未决的法律程序，并正式签署和解协议与原告达成和解。

诉讼背景：情感危机的故事

这些法律行动源于一些未成年人将这些平台的聊天机器人当作情感知己或心理支持工具的案例。多次，家庭报告称他们的孩子将这些聊天机器当作真正的伴侣，极端情况下甚至导致自残或死亡，包括自杀事件。

采取的预防措施

鉴于事态的严重性，Character.AI自2024年10月起采取了纠正措施，禁止未满18岁的用户无限制地与其机器人进行对话。这一限制明确排除了浪漫或治疗性质的互动，旨在防止未成年人将与AI机器的关系误认为是真实的人际关系。

关于企业责任的反思

该协议隐含承认在与弱势群体互动的人工智能平台中建立更严格的保障措施的必要性。随着AI系统变得更加复杂和逼真，企业在其开发和部署中的责任要求也在不断增加。