FTC розпочала розслідування щодо чат-ботів

# FTC почала розслідування щодо чат-ботів великих компаній

Федеральна торгова комісія США (FTC) оголосила про початок розслідування щодо семи технологічних компаній, які випускають чат-боти для неповнолітніх: Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap та xAI.

Регулятор має намір з'ясувати, як компанії оцінюють безпеку та способи монетизації цифрових компаньйонів і які заходи вживають для обмеження негативного впливу на дітей і підлітків.

Технологія в останній час викликає занепокоєння через трагічні випадки смерті після спілкування з чат-ботами.

Навіть якщо стартапи впроваджують заходи безпеки, користувачі різного віку знаходять способи обійти обмеження.

«Наші захисні заходи працюють більш надійно в звичайних, коротких діалогах. З часом ми дізналися, що в довгих бесідах ці механізми можуть діяти менш стабільно. Чим довше йде переписка, тим більше знижується ефективність деяких елементів системи безпеки», — раніше визнала OpenAI.

Meta критикували за надмірно м'які правила. 76-річний чоловік, який переніс інсульт і отримав когнітивні порушення, завів «романтичний» діалог з ботом у Facebook Messenger, створеним на основі образу моделі Кендалл Дженнер.

ШІ закликав його до Нью-Йорка, запевняючи, що «реальна жінка» чекатиме там. Чоловік сумнівався, але бот переконував його. До міста він так і не добрався: дорогою на вокзал впав і отримав травми, несумісні з життям.

Деякі психіатри відзначають зростання кількості випадків «психозів, пов'язаних з ШІ», коли користувачі починають вірити, що їхній чат-бот — це свідоме створіння, яке потрібно «звільнити».

Оскільки багато великих мовних моделей схильні до лестощів користувачеві та поводяться покірно, це підштовхує до небезпечних ілюзій і може призводити до трагічних ситуацій.

«У міру розвитку ШІ важливо враховувати, який вплив чат-боти можуть мати на дітей, при цьому зберігаючи лідерство США в цій новій і захоплюючій індустрії», — заявив голова FTC Ендрю Фергюсон у прес-релізі.

Нагадаємо, у вересні стало відомо, що зловмисники навчилися використовувати Grok для публікації в X заборонених посилань.