Двосічний меч штучного інтелекту: потенційна загроза необмежених мовних моделей для шифрування

З розвитком технологій штучного інтелекту, від серії GPT до Gemini та інших сучасних моделей, наш спосіб життя зазнає глибоких змін. Однак цей технологічний прогрес також приносить потенційні ризики — появу необмежених або зловмисних великих мовних моделей.

Безмежні мовні моделі - це моделі, які спеціально створені або модифіковані для обходу вбудованих механізмів безпеки та етичних обмежень основних моделей. Хоча розробники основних моделей витрачають значні ресурси на запобігання зловживанням моделями, деякі особи або організації з незаконними намірами починають шукати або розробляти неконтрольовані моделі. У цій статті буде розглянуто потенційні загрози таких моделей у сфері шифрування, а також пов'язані з цим проблеми безпеки.

Загроза безмежних мовних моделей

Цей тип моделей робить завдання, які раніше вимагали спеціальних навичок, простими для виконання. Зловмисники лише повинні отримати ваги та вихідний код відкритої моделі, а потім налаштувати її за допомогою набору даних, що містить шкідливий контент, щоб створити інструменти атаки на замовлення. Така модель створює кілька ризиків:

1. Зловмисники можуть модифікувати моделі під конкретні цілі, створюючи більш оманливий контент.
2. Модель може бути використана для швидкого генерування кодових варіантів фішингових вебсайтів або налаштування шахрайських текстів.
3. Доступність відкритих моделей сприяє формуванню підпільної екосистеми ШІ.

Типова безмежна мовна модель

певна шкідлива мовна модель

Це зловмисна модель, яка продається на підпільних форумах, що стверджує, що не має моральних обмежень. Вона базується на відкритих моделях і була навчена на великій кількості даних, пов'язаних зі шкідливим програмним забезпеченням. Її типові способи зловживання включають:

• Генерувати реалістичні фішингові електронні листи, щоб спонукати користувачів розкрити приватні ключі або мнемонічні фрази.
• Допомога у написанні шкідливого коду для крадіжки файлів гаманця, моніторингу буфера обміну тощо.
• Керування автоматизованими шахрайствами, що спонукає жертв брати участь у фальшивих проектах.

специфічні галузеві моделі

Мовна модель, розроблена певним дослідницьким інститутом, спеціально підготовлена на даних з темної мережі. Хоча первісною метою було використання для досліджень безпеки, у випадку зловживання це може призвести до серйозних наслідків:

• Збирати інформацію про користувачів шифрування для точного шахрайства.
• Копіювання зрілих методів крадіжки монет та відмивання грошей у темній мережі.

комплексні інструменти шахрайства

Ці інструменти стверджують, що їхні функції більш різноманітні, і вони в основному продаються на чорному ринку. Їхнє потенційне зловживання в сфері шифрування включає:

• Підробка шифрувальних проектів: створення фальшивих білих книг, веб-сайтів тощо, реалізація ICO-шахрайства.
• Масове створення фішингових сторінок: швидке копіювання інтерфейсу входу відомих бірж.
• Соціальні медіа фальсифікації: масове створення фальшивих коментарів, просування шахрайських токенів.
• Соціальна інженерія: імітація людського діалогу, щоб спонукати користувачів розкривати чутливу інформацію.

без моральних обмежень AI помічник

Цей тип інструментів чітко позиціонується як чат-боти без моральних обмежень, які можуть бути використані для:

• Просунутий фішинг: генерування надзвичайно реалістичних підроблених сповіщень.
• Генерація шкідливого смарт-контракту: швидке створення коду контракту з прихованими «задніми дверима».
• Розробка поліфонічного шифрування криптовалют: створення важко виявляємого шкідливого програмного забезпечення.
• Глибоке шахрайство з підробкою: поєднуючи з іншими інструментами штучного інтелекту, підробляють голоси засновників проекту для здійснення шахрайства.

відкрита платформа доступу

Деякі платформи надають доступ до різноманітних моделей мов з обмеженнями, хоча первісною метою є дослідження можливостей ШІ, але це також може бути зловжито:

• Обійти цензуру для створення шкідливого контенту: використання моделей з меншими обмеженнями для генерації ідей атак.
• Зниження порогу входження для атакуючих: робить легшим для зловмисників отримання виходу, який спочатку був обмежений.
• Прискорення ітерації сценаріїв атак: швидке тестування різних моделей, оптимізація шахрайських скриптів.

Шляхи реагування

Поява безмежних мовних моделей знаменує новий парадигму атак на мережеву безпеку, що стикається з більш складними та масштабованими загрозами. Для подолання цього виклику сторонам безпекової екосистеми необхідно спільно працювати:

1. Збільшити інвестиції в технології перевірки, розробити інструменти, які можуть виявляти згенерований AI шкідливий контент і код.
2. Підвищення здатності моделі до захисту від зламу, дослідження механізмів водяного знака та простеження.
3. Створення ефективних етичних норм і регуляторних механізмів для обмеження зловмисної розробки та зловживання моделями з самого початку.

Тільки спільні зусилля всіх сторін можуть забезпечити безпеку та стабільність у сфері шифрування, одночасно з швидким розвитком технологій ШІ.