Google підписує угоду з ІІ з Пентагоном щодо секретної роботи, оскаржувану співробітниками

Коротко

• Згідно з повідомленнями, Google підписала угоду щодо надання моделей штучного інтелекту Пентагону для секретних робіт
• Пентагон підписав подібні угоди з OpenAI та xAI.
• Співробітники Google закликають генерального директора Сундару Пічаю відхилити секретні завантаження AI.

Google підписала угоду щодо надання Пентагону своїх моделей штучного інтелекту для секретних робіт, повідомляє The Information. Угода дозволяє Міністерству оборони США використовувати AI Google для «будь-яких законних урядових цілей», повідомили The New York Times джерела, знайомі з угодою. Мова йде про те, що контракти, які Пентагон підписав минулого місяця з OpenAI та xAI для використання їхніх моделей AI у секретних мережах, відображають цю ж мову. «Ми пишаємося тим, що є частиною широкого консорціуму провідних лабораторій AI та технологічних і хмарних компаній, що надають AI-послуги та інфраструктуру на підтримку національної безпеки», — повідомив представник Google The New York Times. «Ми залишаємося відданими консенсусу приватного та публічного секторів, що AI не слід використовувати для внутрішнього масового спостереження або автономної зброї без відповідного людського контролю.»

Google не одразу відповіла на запит про коментар від Decrypt. Хоча деталі не були розголошені, перед укладанням угоди, сотні співробітників Google підписали відкритого листа до генерального директора Сундара Пічаї з закликом не робити свої системи AI доступними для Пентагону.  «Ми хочемо, щоб AI приносив користь людству; а не використовувався у безчеловічних або надзвичайно шкідливих цілях», — йдеться у листі. Наразі єдиний спосіб гарантувати, що Google не стане причетною до таких шкод, — відхилити будь-які секретні завантаження. Інакше такі використання можуть відбуватися без нашого знання або можливості зупинити їх.»

Лист стверджує, що системи AI «роблять помилки» і можуть «централізувати владу», а також наголошує, що Google має відповідальність запобігати «найбільш неетичному та небезпечному використанню», включаючи «смертельну автономну зброю та масове спостереження». Співробітники попереджають, що неправильне рішення зараз може спричинити непоправну шкоду репутації Google, бізнесу та ролі у світі. Пентагон активізував зусилля щодо укладання угод з провідними компаніями AI з січня, коли міністр оборони Піт Хегсет заявив, що технології слід інтегрувати у військові структури. Лист підкреслює зростаючий розкол між військовими та деякими розробниками AI щодо того, як має використовуватися ця технологія у війні. У березні Пентагон визнав Anthropic «ризиком ланцюга постачання», фактично заборонивши цю стартапу з Сан-Франциско співпрацю з федеральним урядом після того, як CEO Даріо Амодей відмовився дозволити необмежене використання своїх моделей AI. З того часу Anthropic подав позов до Пентагону щодо цієї позначки, прагнучи продовжити співпрацю з іншими частинами уряду. Незважаючи на опір співробітників, Google, здається, рухається вперед із своєю угодою з Пентагоном, оскільки Міністерство оборони розширює використання штучного інтелекту у секретних операціях. «Просто кажучи, Сполучені Штати мають виграти стратегічну конкуренцію за технологічну перевагу 21-го століття», — сказав Хегсет у промові на Starbase Ілона Маска у січні, назвавши це «надзвичайно запізнілим». «Дуже скоро у нас будуть провідні у світі моделі AI на кожній не секретній та секретній мережі нашого департаменту», — додав він.