Meta атакует разработчиков приложений "Nudify": поворотный момент в борьбе с хищным ИИ

robot
Генерация тезисов в процессе

Meta только что перешла в юридическую атаку. Гигант социальных сетей подал в суд на Joy Timeline HK Ltd., расположенную в Гонконге, компанию, стоящую за CrushAI — приложением, использующим ИИ для генерации сексуализированных изображений без согласия.

Почему это важно

Это не просто спор между платформами. Meta обвиняет Joy Timeline в том, что она обошла ее систему проверки объявлений, чтобы продвигать приложение на Facebook и Instagram, и это несмотря на повторные удаления. “Нудифай приложения” не безобидны: они способствуют онлайн-преследованию, вымогательству и, что еще хуже, эксплуатации детей.

Расследование CBS News показало сотни объявлений об этих инструментах на платформах Meta — некоторые остаются видимыми даже после попыток удаления.

Ответ Meta

Платформа укрепляет свой арсенал:

  • Новая система ИИ для обнаружения вредоносной рекламы (даже без явной наготы)
  • Деактивация четырех координированных сетей
  • Обмен информацией о угрозах с другими гигантами технологий

Контекст

Это действие происходит под возрастающим давлением со стороны законодателей и исследователей. Приложения генеративного ИИ, создающие интимные материалы без согласия, больше не являются серой зоной — они становятся проблемой цифровой преступности.

Главный вопрос: в то время как ИИ распространяется, ручных модераторов уже недостаточно. Meta ставит на автоматизацию - но сможет ли она действительно успеть за темпами технологических обходов?

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить