У світі AI-агентів пам'ять є ключем до залучення користувачів, але також може стати причиною занепокоєння щодо конфіденційності. Взявши Holoworld як приклад, ми можемо обговорити, як розробити систему управління пам'яттю штучного інтелекту, яка захищає конфіденційність користувачів і підвищує їхній досвід.

По-перше, ми можемо розділити спогади ШІ на три категорії: тимчасові сеанси, налаштування користувача та конфіденційна інформація. Сеанси без точок доступу видаляються після завершення розмови, налаштування користувача вимагають збереження явної згоди користувача, а конфіденційна інформація не зберігається за замовчуванням. Такий підхід до класифікації може допомогти користувачам мати більший контроль над своїми даними.

По-друге, перед кожним збереженням даних система повинна надати користувачеві чіткий вибір дозволу, включаючи перемикачі та опис призначення. Одночасно слід згенерувати завантажуваний "доказ згоди", щоб користувач міг перевірити його в майбутньому.

У сфері зберігання даних ми можемо застосувати комбінацію on-chain та off-chain. Чутливі дані, після десенсибілізації або шифрування, записуються в ланцюг лише у вигляді хеш-значення та запису про авторизацію, тоді як фактичні дані зберігаються в відкликаному off-chain сховищі. Таким чином, коли користувач запитує про відкликання даних, ми можемо знищити ключ і зафіксувати подію відкликання в ланцюгу, забезпечуючи справжнє видалення даних.

Щоб надати користувачам більше контролю, ми можемо перерахувати всі записи пам'яті в центрі конфіденційності, дозволяючи користувачам відкликати їх за записами або категоріями. Коли пам'ять буде відкликана, AI-агент повинен використовувати стандартну відповідь замість оригінальної пам'яті, щоб допомогти користувачам відновити довіру.

Крім того, ми можемо налаштувати автоматичний механізм термінів дії для довгостроково неактивних пам'ятей, регулярно очищати їх та сповіщати користувачів, щоб зменшити навантаження на довгострокове зберігання даних. Водночас, зберігатимемо незмінний операційний журнал, який фіксуватиме, хто коли запитував зберегти або відкликати дані, щоб надати доказову підтримку в разі можливих суперечок.

Для заохочення користувачів ділитися не чутливими анонімними даними ми можемо розробити механізм заохочення конфіденційності, наприклад, використовувати віртуальну валюту для винагороди користувачів, які готові ділитися даними, при цьому забезпечуючи їм можливість в будь-який момент відкликати дозвіл.

Нарешті, у технічній реалізації ми можемо поєднати передові технології, такі як диференційна конфіденційність або нульові знання, щоб ще більше знизити ризик витоку даних. Одночасно нам також потрібно розробити стандартну політику конфіденційності, що відповідає місцевим вимогам, відповідно до законодавства різних регіонів.

Завдяки цим заходам ми можемо побудувати систему управління пам'яттю AI, яка захищає конфіденційність користувачів і водночас надає персоналізовані послуги, що підвищить довіру користувачів до AI-агентів та їхню прихильність до використання.