600 employés de Google signent une pétition : refus de l'entrée de Gemini dans le réseau militaire secret du Pentagone

Plus de 600 employés de Google (dont plus de 20 vice-présidents et cadres supérieurs) ont signé une lettre ouverte au PDG Sundar Pichai, demandant à l’entreprise de refuser d’étendre Gemini au réseau sécurisé classifié du Pentagone.
Les employés ont souligné qu’aucent entité extérieure ne peut contrôler un système d’IA dans un environnement confidentiel, et que les mesures de sécurité existantes ne peuvent être techniquement appliquées.
(Précédent contexte : Analyse du guide de démarrage Y Combinator : Quelles sont les tendances futures du développement des agents IA ?)
(Information complémentaire : Étude de l’Université de Californie sur le phénomène de « brouillard cérébral IA » : 14 % des salariés sont devenus fous à cause des agents et de l’automatisation, avec 40 % envisageant de démissionner)

Table des matières de cet article

Basculer

• Du non-confidentiel au confidentiel
• La crise structurelle dans les environnements confidentiels
• La disparition silencieuse des principes d’IA de Google, en contraste avec l’histoire de Maven

Plus de 600 employés de Google ont signé une lettre ouverte au PDG Sundar Pichai, dont des chercheurs seniors de DeepMind, plus de 20 vice-présidents et cadres supérieurs, demandant à l’entreprise de ne pas autoriser Gemini à accéder au réseau militaire classifié du Pentagone.

Du non-confidentiel au confidentiel

Commençons par clarifier la collaboration entre les deux parties. Fin 2022, Google, AWS, Microsoft et Oracle ont conjointement remporté un contrat clé de cloud computing pour le Département de la Défense américain, le projet JWCC, avec un plafond de 9 milliards de dollars.

En décembre 2025, la plateforme GenAI.mil basée sur Gemini a été officiellement lancée pour un environnement non confidentiel.

En mars 2026, l’agent IA Gemini a été déployé pour l’ensemble des 3 millions de personnels du Département de la Défense.

Tous ces usages restent encore dans le domaine non confidentiel.

Mais le nouvel accord en négociation vise à étendre les fonctionnalités de Gemini dans un environnement « confidentiel » : c’est-à-dire un réseau isolé physiquement du réseau externe, appelé air-gapped, dédié aux opérations militaires confidentielles. En résumé : Gemini sera intégré dans le centre de commandement opérationnel.

Les divergences sur la table des négociations sont claires. Google tente de tracer une ligne rouge dans le contrat : interdire l’utilisation de Gemini pour suivre les citoyens américains ou prendre des décisions de frappe sans intervention humaine.
Mais la position du Pentagone est « toutes les utilisations légales », ce qui ne laisse aucune zone interdite explicite, et stipule clairement que les fournisseurs externes ne doivent pas avoir de contrôle sur leurs systèmes d’IA.

Ces deux conditions sont directement conflictuelles.
Les employés de Google, dans leur lettre, ont indiqué que les mesures de sécurité proposées « sont techniquement impossibles à mettre en œuvre ».

La crise structurelle dans les environnements confidentiels

Les initiateurs de la lettre soulèvent un problème fondamental : « Le travail confidentiel, par définition, est opaque. »
Cela signifie qu’une fois Gemini intégré dans un réseau confidentiel, Google ne pourra pas voir ce qu’il fait.

Dans un environnement non confidentiel, Google peut auditer les appels API, surveiller les sorties du modèle, mettre en place des protections, et intervenir en cas de problème.
Dans un environnement confidentiel, ces mesures n’existent pas.

Les employés évoquent des préoccupations concrètes :

• Profilage (profiling, c’est-à-dire utiliser l’IA pour établir des modèles de comportement et d’identité des cibles)
• Utiliser des civils innocents comme cibles.
  Ces scénarios ne sont pas hypothétiques, mais font partie des modes opératoires actuels de l’IA dans les opérations militaires.

Le dilemme pour la direction actuelle de Google est qu’elle ne peut pas garantir techniquement aux employés que Gemini ne sera pas utilisé à des fins spécifiques, car elle ne peut pas accéder à ces réseaux pour en faire la vérification.

La disparition silencieuse des principes d’IA de Google, en contraste avec l’histoire de Maven

En février 2025, Google a discrètement modifié ses principes d’utilisation de l’IA, en supprimant la clause interdisant explicitement « le développement d’armes ou la surveillance par IA ».
Le PDG de DeepMind, Demis Hassabis, a justifié cette modification en disant que la compétition mondiale pour la domination de l’IA était en cours, ce à quoi Human Rights Watch et Amnesty International ont rapidement réagi en condamnant cette modification.

L’affaire Maven de 2018, où 4 000 employés ont signé une pétition et au moins 12 ont démissionné, a finalement conduit Google à ne pas renouveler le contrat, qui a été repris par Palantir.

2018 : Le projet Maven de Google avec le Département de la Défense américain

Ce partenariat visait à utiliser l’IA et l’apprentissage automatique de Google pour analyser automatiquement des images aériennes capturées par des drones, afin d’aider l’armée américaine à identifier des cibles.
Cependant, ce projet a déclenché une vive controverse éthique en interne chez Google, marquant un tournant clé dans l’histoire de la collaboration entre la technologie et l’armée.

Le succès de Maven s’explique en partie par le fait qu’en 2018, l’application militaire de l’IA était encore marginale, et le coût pour la marque Google dépassait la valeur du contrat.
Huit ans plus tard, l’IA est devenue un projet central dans l’infrastructure de défense, avec Google, AWS et Microsoft se livrant une compétition féroce pour décrocher ces contrats.

La position du marché, la pression politique et la dynamique concurrentielle convergent toutes vers une même direction : une lettre seule ne suffit pas à contrer les intérêts du marché derrière ces contrats massifs.