Meta подала иск против Joy Timeline HK Ltd., компании с штаб-квартирой в Гонконге, ответственной за разработку скандального приложения CrushAI, которое использует искусственный интеллект для генерации сексуализированных изображений без согласия.

Иск, поданный в Гонконге, обвиняет компанию в нарушении рекламных политик Meta за продвижение приложения через объявления в Facebook и Instagram, несмотря на неоднократные удаления и меры соблюдения.

Согласно Meta, Joy Timeline предприняла несколько попыток обойти ее системы проверки рекламы, что привело к юридическим действиям, чтобы навсегда запретить компании рекламироваться на ее платформах. "Этот иск отражает серьезность, с которой мы рассматриваем это злоупотребление, и нашу приверженность защите нашего сообщества", заявила Meta в своем пресс-релизе, пообещав продолжить поиск юридических решений против неправильного использования платформы.

CrushAI и аналогичные приложения "разоблачения", которые цифровым образом раздевают людей (, часто нацеливаясь на женщин и знаменитостей ), подверглись широкому осуждению за содействие онлайн- harassment, вымогательству и эксплуатации детей. Недавнее исследование CBS News обнаружило сотни таких объявлений на платформах Meta, некоторые из которых оставались видимыми даже после попыток их удаления.

В ответ Meta усилила свои инструменты контроля, внедрив новые технологии для обнаружения и блокировки вредоносной рекламы, включая ту, которая не демонстрирует откровенное обнаженное тело, и делясь информацией о угрозах с другими технологическими компаниями.

Компания также сообщила о dismantling четырех координированных сетей, которые размещали эти объявления, и продолжает работать с внутренними экспертами и внешними партнерами, чтобы противостоять возникающим тактикам уклонения.

В условиях растущего давления со стороны законодателей и исследователей Meta утверждает, что останется бдительной и примет все необходимые меры для предотвращения распространения эксплуататорских ИИ-приложений и защиты безопасности пользователей.