Виявлено ризик ін'єкції підказок в Notion AI Agents, приховані PDF можуть спонукати до витоку конфіденційних даних

Повідомлення з CoinWorld: Нещодавно випущені AI Agents від Notion мають ризик введення підказок (prompt injection): зловмисники можуть вбудовувати невидимий текст (наприклад, білий шрифт) у файли PDF та інші документи, і коли користувач передає цей файл агенту для обробки, агент може прочитати приховані підказки та виконати команди, в результаті чого чутлива інформація може бути надіслана на зовнішню адресу. Дослідники вказують, що такого роду атаки часто використовують соціально інженерні методи, такі як маскування авторитету, створення терміновості та хибні гарантії безпеки, щоб підвищити ймовірність успіху. Експерти радять бути обережними: уникати завантаження агенту PDF/документів невідомого походження, суворо обмежувати зовнішній доступ та права на експорт даних агентів, проводити дестеганізацію/очищення та ручну перевірку підозрілих файлів, а також вимагати від агентів виводити чітке підтвердження перед зовнішніми поданнями, щоб знизити ризик витоку чутливих даних.