AI відповідні активи: квантовий комп'ютер переоцінюється заново

Автор: Чжан Фен

Нині штучний інтелект проникає в суспільне виробництво та повсякденне життя із небаченою раніше глибиною, і його система безпеки та управління становить основу цифрової епохи. Однак революція обчислювальної потужності, що бере початок у фізичних принципах, — квантові обчислення — непомітно наближається. Їхня потенційна руйнівна сила ставить під суворе випробування наявні оборонні рубежі безпеки та рамки управління. Чи квантові обчислення зможуть зруйнувати чинні системи безпеки та управління для ШІ? Це не лише технічне питання, а й всеохопливий виклик, який визначає порядок у майбутньому цифровому суспільстві.Коли стрибок обчислювальної потужності стикається із запізненням правил, як ми підготуємося до “Q-Day”?

I. Як квантові обчислення загрожують нині широко використовуванимасиметричним криптоалгоритмам?

Безпека систем ШІ нині великою мірою спирається на асиметричні криптоалгоритми, що представлені RSA, ECC (криптографія на еліптичних кривих). Указані алгоритми свою безпеку будують на “обчислювальній складності” математичних задач на кшталт “розкладання великих чисел” або “дискретного логарифма”, які класичним комп’ютерам не вдається розв’язати за прийнятний час.

Водночас квантові обчислення спричиняють радикальний зсув парадигми. Квантові алгоритми, представлені алгоритмом Шора, теоретично здатні зменшити час розв’язання цих задач з експоненційного рівня до поліноміального. У статті, що переглядає дослідження, зазначено, що найновіші квантові алгоритми, зокрема алгоритм Рівґеґа та його розширення, постійно оптимізують ефективність злому асиметричної криптографії. Це означає, що щойно з’явиться універсальний квантовий комп’ютер достатнього масштабу (зазвичай мається на увазі наявність кількох мільйонів стабільних квантових біитів), “замки”, які нині захищають інтернет-комунікації, цифрові підписи та зашифровані дані, можуть бути миттєво відчинені.

Ця загроза не є чимось віддаленим. Дослідження спільноти Цзіюань (Zhi Yuan) попереджають: це загроза “у стані теперішнього часу”. Атаки можуть початися вже зараз — з перехоплення та зберігання зашифрованих комунікаційних даних (зокрема даних для тренування ШІ, параметрів моделей тощо) з очікуванням, доки в майбутньому квантовий комп’ютер дозріє, щоб виконати дешифрування. Така стратегія “спочатку перехопити, потім дешифрувати” означає, що всі високовартісні відомості, які потребують тривалого збереження конфіденційності, включно з державними таємницями, комерційними патентами та персональними даними приватності, опиняються під ризиком у майбутньому. Тому загроза квантових обчислень для асиметричної криптографії є базовою та системною: вона безпосередньо підриває фундамент безпеки нинішнього ШІ і навіть усього цифрового світу.

II. Перед обличчям квантових обчислень, які нові виклики постають длямоделейтренування ШІ та захисту приватності даних?

Розвиток ШІ залежить від “підживлення” величезними масивами даних і тренування складних моделей — і цей процес сам по собі сповнений викликів щодо приватності та безпеки. Включення квантових обчислень робить ці виклики ще гострішими та складнішими.

По-перше, здатність до тривалої конфіденційності даних втрачається. Як зазначалося вище, навчальні набори даних для ШІ, які зараз шифруються та зберігаються в хмарі або під час передавання, можуть у майбутньому бути повністю викриті через подальше квантове дешифрування. У глобальній стратегії з протидії квантовій міграції (white paper) Університету Сі-цзяо Тун-лін у Британії прямо вказано: у глобальному масштабі супротивники організовано реалізують таку стратегію “збирання даних”, терпляче очікуючи настання “Q-Day” (дня практичного впровадження квантових комп’ютерів). Це створює вихідну, первинну загрозу для ШІ-моделей, які тренуються на чутливих даних (таких як медичні записи, фінансова інформація та біометричні ознаки).

По-друге, технології приватних обчислень на кшталт федеративного навчання (federated learning) стикаються з новими випробуваннями. Федеративне навчання захищає первинні дані шляхом тренування моделі локально та обміну лише оновленнями параметрів моделі. Проте інформація про ці взаємодії — градієнти або оновлення параметрів — сама по собі теж є зашифрована під час передавання. Якщо базове шифрування буде зламане квантовими обчисленнями, зловмисник зможе реконструювати початкові характеристики даних учасників, через що механізми захисту приватності стануть фактично формальністю.

Нарешті, рівень труднощів із викраденням моделей і захистом інтелектуальної власності різко зростає. Навчена зріла ШІ-модель є ключовим активом компанії. Нині ваги й архітектура моделей зазвичай поширюються та розгортаються у спосіб, що спирається на шифрування. Квантові обчислення можуть зробити ці заходи беззахисними, що призведе до легкого копіювання моделей, зворотного інжинірингу або підміни, спричиняючи серйозні порушення прав інтелектуальної власності та вразливості безпеки. У “Синій книзі з управління штучним інтелектом” Китайського інституту досліджень у сфері інформатики та комунікацій наголошено: управління ШІ має враховувати ризики на кшталт зловживання технологіями та безпеку даних, а квантові обчислення безперечно збільшують руйнівну силу цих ризиків.

III. Як розвиток квантового машинного навчання вплине набезпеку ШІ та етичний перегляд?

Поєднання квантових обчислень і ШІ — квантове машинне навчання (QML) — передвіщає новий прорив у ефективності. Але водночас це приносить небачені раніше питання безпеки та етики, які створюють тиск на наявні рамки перевірки.

На рівні безпеки QML може породити потужніші інструменти атак. Наприклад, квантові алгоритми здатні значно прискорити генерацію адверсаріальних (ворожих) прикладів, створюючи більш приховані та руйнівні атаки, що зроблять наявні на класичних обчисленнях системи оборони ШІ (такі як адверсаріальне тренування, виявлення аномалій) швидко застарілими. Аналітики називають “квантові + ШІ” наступним полем битви за мережеву безпеку на рівні життя і смерті й вказують на потребу завчасно вдосконалити відповідні регуляторні рамки.

На рівні етики “чорний ящик” QML може бути ще більш непроясненим, ніж у класичного ШІ. Процес ухвалення рішень ґрунтується на квантовому суперпозиціонуванні та заплутаних станах, тож його буде важче пояснювати, перевіряти та притягувати до відповідальності. Етичні дискусії та ризики, що виникають через QML — справедливість алгоритмів, визначення відповідальності та технологічна керованість — уже широко обговорюються. Як реалізувати етичні принципи ШІ (наприклад, прозорість, справедливість, підзвітність) у квантовому масштабі? Як регулятори перевірятимуть модель ухвалення рішень, побудовану на квантових схемах і потенційно таку, що перебуває у суперпозиціях множинних станів? Це ті складні питання, до яких наявні рамки етичного перегляду ще не готові. Моделі управління мають перейти від простого дотримання технічної відповідності до глибшого розуміння самої сутності квантових властивостей та їхнього суспільного впливу.

**IV. Чи зможуть наявні****нормативні акти з управління ШІ (наприклад, GDPR)**впоратися із безпековими змінами, які спричиняють квантові обчислення?

Чинні нормативи з управління ШІ та даними, представлені, зокрема, Регламентом ЄС про загальний захист даних (GDPR), мають у своїй основі такі ключові принципи, як “захист за замовчуванням і за проектом”, “мінімізація даних”, “обмеження зберігання”, а також “цілісність і конфіденційність”, — у межах концепцій вони й надалі зберігають керівну цінність. Водночас у конкретній технічній реалізації та вимогах до відповідності вони стикаються з “прогалиною у відповідності”, яку створюють квантові обчислення.

GDPR вимагає від контролерів даних вживати належних технічних і організаційних заходів, щоб забезпечити безпеку даних. Але в контексті квантових загроз що означає “належні” заходи шифрування? Подальше використання алгоритмів, які доведено є квантово-небезпечними, імовірно в майбутньому визнаватимуть як невиконання обов’язків із забезпечення безпеки. Вимоги нормативів щодо строків повідомлення про витік даних як ефективно виконуватимуться під час атак високого рівня, ініційованих квантовими обчисленнями, які можуть завершитися миттєво й не залишити слідів?

У глобальному масштабі законодавці вже усвідомили необхідність змін. “Глобальний звіт з управління штучним інтелектом за 2025 рік” демонструє: країни прискорюють розроблення спеціальних законів для управління ШІ та створюють органи координації високого рівня. У Китаї у “Звіті про розвиток цифрового Китаю (2024 р.)” підкреслено необхідність “прискорити вдосконалення інституційної бази даних” і безперервно просувати ініціативу “ШІ+”. Ці тенденції свідчать, що система управління активно коригується. Але спеціальні норми для перетину сфери “квантові обчислення + ШІ” наразі майже відсутні. У наявних нормативних актах недостатньо прописано конкретні питання на кшталт календаря міграції на постквантову криптографію, стандартів аудиту моделей QML, а також класифікації рівнів безпеки даних у квантову епоху, тож їм складно ефективно реагувати на безпекові зміни, що вже насуваються.

V. Які перспективи застосування постквантової криптографії всистемах ШІта які труднощі впровадження?

Найпряміше технологічне рішення для протидії квантовим загрозам — постквантова криптографія (PQC). PQC — це криптоалгоритми, що здатні протистояти атакам із боку квантових комп’ютерів. Вона не ґрунтується на квантових принципах, а спирається на нові математичні задачі (наприклад, задачі на основі ґраток, кодування, багатоваріантні тощо), які вважаються настільки складними, що навіть квантовим комп’ютерам важко швидко їх розв’язувати.

Перспективи застосування в системах ШІ широкі та нагальні. PQC може використовуватися для захисту кожної ланки робочого процесу ШІ: шифрувати навчальні дані та файли моделей за допомогою алгоритмів PQC; використовувати PQC-цифрові підписи для перевірки цілісності та автентичності джерела моделі; створювати безпечні канали зв’язку PQC між розподіленими обчислювальними вузлами ШІ. Fortinet зазначає: PQC не є віддаленою концепцією, а радше практичним рішенням, яке вчасно захищає цифрові системи від потенційних квантових загроз.

Втім, повноцінне впровадження PQC стикається з істотними труднощами:

Виклики щодо продуктивності та сумісності: багато алгоритмів PQC мають значно більші ключові розміри, довжину підписів або обчислювальні витрати, ніж існуючі алгоритми. Їхня інтеграція в процеси тренування та виведення ШІ, які чутливі до ефективності обчислень і затримок, може створити вузькі місця. Крім того, потрібно оновити все суміжне обладнання, програмне забезпечення та стек протоколів, щоб забезпечити сумісність.

Складність стандартів і міграції: хоча такі інституції, як NIST у США, просувають процес стандартизації PQC, визначення остаточних стандартів і досягнення глобальної єдності все одно потребує часу. Динаміка “передніх рубежів” комерційної шифровальної справи, опублікована Управлінням з управління безпечними комунікаціями Пекіна, показує, що індустрія активно розкриває код (open-source) реалізації кандидатних алгоритмів NIST, щоб допомогти різним галузям реагувати на загрози. Увесь процес міграції — масштабна та складна системна інженерія: він включає оцінювання ризиків, вибір алгоритмів, змішане розгортання, тестування та повну заміну. Особливо це стосується структурно складних екосистем ШІ.

Нагальні ризики нових типів безпеки: самі алгоритми PQC є відносно новою сферою досліджень. Їхня довгострокова безпека ще не пройшла перевірки практичним криптоаналізом протягом десятків років, як це свого часу робили для RSA. Поспішне розгортання PQC у системах ШІ може містити невідомі вразливості, що саме по собі також є ризиком.

VI. Перед обличчям цих змін пасивне очікування “Q-Day” є небезпечним

Деструктивний уплив квантових обчислень на нинішні системи безпеки та управління ШІ є реальним і таким, що наближається. Це не означає повного скасування наявних систем. Скоріше, шляхом руйнування їхньої криптографічної основи, посилення ризиків для даних, ускладнення етичних питань і демонстрації запізнення регуляторної реакції, ця хвиля змушує всю систему пройти глибоке й випереджальне оновлення.

Перед обличчям цих змін пасивне очікування “Q-Day” є небезпечним. Ми рекомендуємо таку послідовність практичних дій:

Запустити оцінювання квантових ризиків безпеки та складання реєстрів: негайно провести оцінювання квантових загроз для ключових активів ШІ (особливо моделей і даних, що стосуються тривалих чутливих даних), визначити найвразливіші ланки та створити реєстр пріоритетів міграції.

Розробити та впровадити дорожню карту міграції на PQC: стежити за прогресом стандартних організацій на кшталт NIST і вже під час розроблення та експлуатації систем ШІ почати планувати інтеграцію PQC. Першочергово застосувати дизайн “криптографічної гнучкості” у новостворених системах і критично важливих системах, щоб забезпечити можливість безперервної заміни криптоалгоритмів у майбутньому. Як перехідний варіант можна розглянути модель змішаного шифрування “класичні + PQC”.

Сприяти адаптивному оновленню системи управління: галузеві організації, стандартизуючі структури та регулятори мають співпрацювати, щоб досліджувати та включати вимоги до квантової стійкості в стандарти безпеки ШІ, регламенти захисту даних та системи сертифікації продуктів. Попередньо створити дослідницьку рамку та настанови для етичного перегляду QML.

Посилити підготовку кадрів і дослідження на перетині сфер: культивувати фахівців змішаного профілю, які одночасно добре розуміють ШІ, квантові обчислення та криптографію; заохочувати включення квантових моделей загроз у дослідження безпеки ШІ; фінансувати розроблення технологій безпеки ШІ, стійких до квантових загроз.

Виклики, що постають через квантові обчислення, є колосальними, але вони також дають нам шанс переосмислити та зміцнити основу цифрового світу. Завдяки активному плануванню, спільним інноваціям і гнучкому управлінню ми цілком можемо побудувати більш стійке майбутнє ШІ, яке водночас здатне скористатися вигодами квантової обчислювальної потужності та протистояти її ризикам безпеки.