Meta подала позов проти Joy Timeline HK Ltd., компанії, що базується в Гонконгу, відповідальної за розробку спірного додатку CrushAI, який використовує штучний інтелект для створення сексуалізованих зображень без згоди.

Позов, поданий у Гонконзі, звинувачує компанію в порушенні рекламних політик Meta, просуваючи додаток через рекламу у Facebook та Instagram, незважаючи на неодноразові видалення та заходи з дотримання.

Згідно з Meta, Joy Timeline здійснив кілька спроб обійти їхні системи перевірки реклами, що спонукало до вжиття юридичних заходів для постійної заборони компанії на рекламу на їхніх платформах. "Цей позов відображає серйозність, з якою ми ставимося до цього зловживання, і нашу прихильність до захисту нашої спільноти", - заявила Meta в своїй заяві, обіцяючи продовжувати шукати юридичні рішення проти неналежного використання платформи.

CrushAI та подібні програми "оголеності", які цифрово роздягають людей (часто націлюючись на жінок і знаменитостей), стали об'єктом широкої критики за сприяння онлайн-образам, шантажу та експлуатації дітей. Нещодавнє розслідування CBS News виявило сотні таких оголошень на платформах Meta, деякі з яких залишались видимими навіть після спроб їх видалення.

У відповідь Meta зміцнила свої інструменти контролю, впровадивши нові технології для виявлення та блокування шкідливих оголошень, навіть тих, що не містять явного оголення, і ділячись інформацією про загрози з іншими технологічними компаніями.

Компанія також повідомила про демонтаж чотирьох координованих мереж, які здійснювали ці оголошення, і продовжує працювати з внутрішніми експертами та зовнішніми партнерами для протидії новим тактикам ухилення.

У відповідь на зростаючий тиск з боку законодавців і дослідників Meta стверджує, що залишатиметься пильним і вживе всіх необхідних заходів для стримування поширення експлуататорських ІІ-додатків та захисту безпеки користувачів.