A armadilha das pessoas inteligentes: por que Vitalik nos pede para seguir a "regra dos tolos"

Título original: A armadilha dos inteligentes: por que Vitalik nos pede para seguir a “regra estúpida”

Autor original: Zhixiong Pan

Fonte original:

Reprodução: Mars Finance

O artigo “Galaxy Brain Resistance” que Vitalik publicou há algumas semanas é na verdade bastante obscuro e difícil de entender, e não vi uma boa interpretação, então vou tentar.

Afinal, eu vi que Karpathy, o criador do termo Vibe Coding, também leu este artigo e fez anotações, então deve haver algo de especial.

Primeiro, vamos falar sobre o que significam os termos Galaxy Brain e Resistance; depois de interpretar este título, você poderá entender do que trata aproximadamente este artigo.

1. A tradução de Galaxy Brain em português é “Cérebro Galáctico”, mas na verdade vem de um meme da internet, semelhante a uma imagem que combina (galáxia e cérebro), que você deve ter visto.

No início, isso era, claro, um elogio, usado para louvar a ideia do outro como sendo muito brilhante, ou seja, inteligente. Mas depois, com a proliferação do uso, foi gradualmente transformando-se em uma forma de ironia, com um significado aproximado de “pensou demais, a lógica foi longe demais.”

Vitalik menciona aqui o Galaxy Brain, referindo-se ao comportamento de “usar altas habilidades intelectuais para fazer exercícios mentais e afirmar algo sem sentido como se tivesse um grande significado”. Por exemplo:

• É claramente uma grande redução de pessoal para economizar dinheiro, mas insistem em dizer que é “para fornecer talentos de alta qualidade à sociedade”.

• É claramente uma moeda de ar emitida para explorar os incautos, mas afirmam que estão “empoderando a economia global com governança descentralizada”.

Podem ser considerados como um pensamento do tipo “Cérebro Galáctico”.

2、O que significa então Resistance (抗性)? Este conceito pode ser facilmente confuso; usando uma expressão popular, pode ser comparado à “capacidade de não ser influenciado” ou “capacidade de não ser enganado”.

Portanto, Galaxy Brain Resistance deve ser a Resistência a [becoming] Galaxy Brain, ou seja: “a capacidade de resistir (a se tornar) um cérebro galáctico (bobagem)”.

Ou, mais exatamente, a dificuldade de se abusar de um certo estilo de pensamento / argumentação para “provar qualquer conclusão que você desejar”.

Portanto, essa “resistência” pode ser direcionada a uma “teoria”, por exemplo,

• A teoria da baixa resistência (Low Resistance): Com uma ligeira análise, pode evoluir para uma lógica extremamente absurda de “cérebro galáctico”.

• Teoria da Alta Resistência: Não importa como você analisa, ela permanece a mesma, sendo difícil de evoluir para uma lógica absurda.

Por exemplo, Vitalik disse que a lei social ideal dele deveria ter uma linha vermelha: só pode ser proibido um comportamento quando se consegue explicar como ele causa danos ou riscos a vítimas específicas. Este padrão tem uma resistência muito Galaxy Brain, pois não aceita razões subjetivas como “não gosto” ou “é imoral”, que são infinitamente manipuláveis ou vagas.

3, Vitalik também citou muitos exemplos no artigo, até mesmo usando teorias que costumamos ouvir, como “long-termismo” e “inevitabilismo”.

"O 'long-termismo' é difícil de resistir à corrosão do pensamento estilo Galaxy Brain, pois sua resistência é extremamente baixa, é praticamente um “cheque em branco”. Porque o “futuro” é muito distante e muito vago.

• A afirmação de alta resistência: “Esta árvore pode crescer 5 metros em 10 anos”. Isso é verificável e não é fácil de inventar.

• Baixa resistência ao “long-termismo”: “Embora eu esteja prestes a fazer algo extremamente antiético (como eliminar uma parte da população ou iniciar uma guerra), isso é para que a humanidade possa viver uma vida utópica daqui a 500 anos. Após meus cálculos, a quantidade total de felicidade no futuro é infinita, portanto, os sacrifícios atuais são insignificantes.”

Vês, desde que estendas o tempo o suficiente, podes justificar qualquer mal presente. Como disse Vitalik: “Se a tua argumentação pode provar que qualquer coisa é legítima, então a tua argumentação não prova nada.”

No entanto, Vitalik também admitiu que “o longo prazo é importante”; ele criticou o “uso de benefícios futuros excessivamente vagos e não verificáveis para encobrir os danos claros do presente.”

Outro ponto crítico é o “Inevitabilismo”.

Esta também é a técnica de defesa mais utilizada no Vale do Silício e no mundo da tecnologia.

A narrativa é a seguinte: “A substituição do trabalho humano pela IA é uma inevitabilidade histórica; mesmo que eu não o faça, outros o farão. Portanto, estou a desenvolver a IA de forma radical não para lucrar, mas para acompanhar a corrente histórica.”

Onde está a baixa resistência? Ela dissolve perfeitamente a responsabilidade das pessoas. Uma vez que é “inevitável”, então não preciso ser responsável pelos danos que causei.

Esta também é uma típica Mente Galáctica: transformar o desejo pessoal de “quero ganhar dinheiro / quero ter poder” em “estou a cumprir uma tarefa histórica.”

4、Então, o que devemos fazer diante dessas “armadilhas dos Satoshis”?

A solução que Vitalik apresentou é surpreendentemente simples, até um pouco “estúpida”. Ele acredita que quanto mais inteligente a pessoa, mais regras de alta resistência são necessárias para se restringir e evitar que suas acrobacias mentais saiam do controle.

Primeiro, manter a “ética deontológica”, que é a lei moral fundamental ao nível do jardim de infância.

Não se preocupe em resolver questões matemáticas complexas do tipo “pelo futuro da humanidade”, volte ao princípio mais rígido:

• Não roube

• Não mate pessoas inocentes

• Não cometa fraudes

• Respeitar a liberdade dos outros

Estas regras têm uma resistência extremamente alta. Porque são preto ou branco, não há como negociar. Quando tentas explicar porque é que estás a desviar fundos dos utilizadores com a grande ideia do “long-termismo”, a rígida regra de “não roubar” vai diretamente contra ti: roubar é roubar, não venhas com a conversa da grande revolução financeira.

Em segundo lugar, ter a “posição” correta, incluindo até a posição física.

Dizem que o cú decide a cabeça. Se você passar todos os dias naquele eco chamber da Baía de São Francisco, rodeado de pessoas que promovem o aceleracionismo da IA, será difícil manter-se sóbrio. Vitalik até deu um conselho de alta resistência em termos físicos: não more na Baía de São Francisco.

5, Resumo

Vitalik este artigo na verdade está alertando aqueles elitistas extremamente inteligentes: não pense que, por ter um QI alto, pode contornar a simples linha ética.

As teorias do “cérebro galáctico” que parecem explicar tudo, muitas vezes são as desculpas universais mais perigosas. Em contrapartida, aquelas regras de “alta resistência” que parecem rígidas e dogmáticas são a nossa última linha de defesa contra a autoengano.