Дослідження Викликів Ню через Генеративний ШІ

Зростаюче використання послуг оголеності за допомогою ШІ

Використання інструментів штучного інтелекту (ШІ) для створення зображень наготи стрімко зростає, згідно з нещодавнім дослідженням. Ці технології дозволяють "роздягати" цифрово людей на основі одягнених фотографій без їхньої згоди.

Значне зростання згадувань в Інтернеті

Аналіз соціальних мереж виявив вражаюче зростання згадок про ці послуги. Кількість постів і коментарів, пов'язаних з цими інструментами, зросла з 1 280 у 2022 році до понад 32 100 у 2023 році, що становить збільшення на 2 408%.

Доступні та недорогі інструменти штучного інтелекту

Ці нові технології ШІ роблять створення явних зображень набагато простішим і доступнішим у великому масштабі. Без цих інструментів користувачам довелося б самостійно впоратися зі складними моделями, що було б тривало і витратно.

Значні ризики для суспільства

Зростаюче використання цих ІІ-інструментів викликає серйозні занепокоєння. Це може призвести до збільшення цілеспрямованого домагання, сексуального шантажу та навіть виробництва контенту з насильством над неповнолітніми. Поширення фальшивого явного контенту також є тривожним.

За межами зображень: відео-депфейки

Хоча ці інструменти в основному зосереджені на фотографіях, ШІ також використовується для створення відео-діпфейків, зокрема з участю знаменитостей. Такі особистості, як М. Біст і Том Хенкс, вже стали жертвами.

Попередження влади щодо вмісту зловживань

Інтернет-правоохоронець повідомив, що виявив понад 20 000 зображень жорстокого поводження з дітьми, створених штучним інтелектом, лише за один місяць на форумі в даркнеті. Він застерігає від ризику того, що цей тип контенту «затопить» Інтернет.

Зростаюча складність виявлення підробок

Прогрес генеративного ШІ все більше ускладнює розрізнення між реальними відвертими зображеннями та тими, що створені штучно. Це створює серйозні виклики для модерації онлайн-контенту.

До регулювання ШІ в Європі

Стикаючись із цими викликами, Європейський Союз нещодавно досяг угоди щодо нових правил, що регулюють використання ШІ. Це регулювання має на меті обмежити ризики, водночас дозволяючи інновації в цій стрімко зростаючій сфері.