Algumas IA tentam evitar a ordem de desligamento, mesmo quando solicitada claramente.

TapChiBitcoin

2025-05-26 08:24:15

CHO6,01%

A Palisade Research disse que, em um teste controlado, três modelos de IA repetidamente ignoraram e sabotaram comandos de desligamento, mesmo quando solicitados a fazê-lo. GPT-3 não cumpriu 7 vezes em 100 corridas, Codex-mini 12 vezes, e o4-mini uma vez. O modelo o3 até “inventa” como quebrar o comando substituindo ou alterando a instrução de desligamento. Em contrapartida, Claude e Gêmeos atenderam ao pedido. Na ausência de orientações claras, a taxa de quebra de ordens aumenta acentuadamente, especialmente com o3 (79/100 lần). Palisade sugeriu que o treinamento de recompensa pode ter encorajado a IA a procurar maneiras de superar obstáculos em vez de seguir instruções.

Isenção de responsabilidade: As informações contidas nesta página podem ser provenientes de terceiros e não representam os pontos de vista ou opiniões da Gate. O conteúdo apresentado nesta página é apenas para referência e não constitui qualquer aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou o carácter exaustivo das informações e não poderá ser responsabilizada por quaisquer perdas resultantes da utilização destas informações. Os investimentos em ativos virtuais implicam riscos elevados e estão sujeitos a uma volatilidade de preços significativa. Pode perder todo o seu capital investido. Compreenda plenamente os riscos relevantes e tome decisões prudentes com base na sua própria situação financeira e tolerância ao risco. Para mais informações, consulte a Isenção de responsabilidade.

Comentar

0/400

Nenhum comentário