Google assina acordo de IA com o Pentágono para trabalho classificado, enquanto funcionários se opõem

Resumidamente

• A Google teria assinado um acordo para fornecer modelos de IA ao Pentágono para trabalhos classificados
• O Pentágono assinou acordos semelhantes com OpenAI e xAI.
• Funcionários do Google estão solicitando que o CEO Sundar Pichai rejeite cargas de trabalho de IA classificadas.

Google assinou um acordo para fornecer ao Pentágono seus modelos de inteligência artificial para trabalhos classificados, de acordo com um relatório do The Information. O acordo permite que o Departamento de Defesa dos EUA use a IA do Google para “qualquer propósito governamental legal”, disseram pessoas familiarizadas com o acordo ao The New York Times. A linguagem espelha os contratos que o Pentágono assinou no mês passado com OpenAI e xAI para usar seus modelos de IA em redes classificadas. “Estamos orgulhosos de fazer parte de um amplo consórcio de laboratórios de IA líderes e empresas de tecnologia e nuvem que fornecem serviços e infraestrutura de IA em apoio à segurança nacional,” disse um porta-voz do Google ao The New York Times. “Continuamos comprometidos com o consenso do setor privado e público de que a IA não deve ser usada para vigilância em massa doméstica ou armamento autônomo sem supervisão humana adequada.”

O Google não respondeu imediatamente a um pedido de comentário do Decrypt. Embora os detalhes não tenham sido divulgados, antes do acordo, centenas de funcionários do Google assinaram uma carta aberta ao CEO Sundar Pichai solicitando que a empresa não disponibilizasse seus sistemas de IA ao Pentágono.  “Queremos ver a IA beneficiar a humanidade; não vê-la sendo usada de maneiras desumanas ou extremamente prejudiciais,” dizia a carta. Atualmente, a única maneira de garantir que o Google não se associe a tais danos é rejeitar qualquer carga de trabalho classificada. Caso contrário, esses usos podem ocorrer sem nosso conhecimento ou capacidade de impedir.”

A carta argumenta que os sistemas de IA “cometem erros” e podem “centralizar o poder,” e afirma que o Google tem a responsabilidade de impedir “seus usos mais antiéticos e perigosos,” incluindo “armas autônomas letais e vigilância em massa.” Os funcionários alertam que tomar a “decisão errada agora causaria danos irreparáveis à reputação, aos negócios e ao papel do Google no mundo.” O Pentágono acelerou esforços para garantir acordos com grandes empresas de IA desde janeiro, quando o Secretário de Defesa Pete Hegseth afirmou que a tecnologia deveria ser integrada às forças armadas. A carta destaca uma crescente divisão entre o setor militar e alguns desenvolvedores de IA sobre como a tecnologia deve ser usada na guerra. Em março, o Pentágono designou a Anthropic como um “risco na cadeia de suprimentos,” impedindo efetivamente a startup de São Francisco de trabalhar com o governo federal, após o CEO Dario Amodei se recusar a permitir o uso irrestrito de seus modelos de IA. A Anthropic desde então processou o Pentágono por essa designação, enquanto busca continuar trabalhando com outras partes do governo. Apesar da resistência dos funcionários, o Google parece estar avançando com seu acordo com o Pentágono enquanto o Departamento de Defesa expande o uso de inteligência artificial em operações classificadas. “Simplificando, os Estados Unidos devem vencer a competição estratégica pela supremacia tecnológica do século XXI,” disse Hegseth em um discurso na Starbase de Elon Musk em janeiro, chamando isso de “há muito tempo esperado.” “Muito em breve, teremos os principais modelos de IA do mundo em todas as redes não classificadas e classificadas de nosso departamento,” afirmou.