AI e Web3: A ascensão da Descentralização da Inteligência Artificial Financeira e seus desafios de segurança
Recentemente, um importante evento de blockchain focado na tendência de fusão entre IA e Web3 ocorreu em Istambul. Este evento tornou-se uma plataforma importante este ano para discutir questões de segurança do Web3. Em duas mesas-redondas, vários especialistas da indústria realizaram discussões aprofundadas sobre o estado atual da aplicação da tecnologia de IA no setor de finanças descentralizadas (DeFi) e os desafios de segurança.
Com o rápido desenvolvimento de grandes modelos de linguagem e agentes de IA, um novo modelo financeiro — Descentralização de Inteligência Artificial Financeira (DeFAI) — está gradualmente a formar-se. No entanto, essa inovação também trouxe novas vulnerabilidades de segurança e ameaças potenciais.
Um executivo de uma empresa de segurança afirmou: "Embora o DeFAI tenha um grande potencial, precisamos reavaliar os mecanismos de confiança nos sistemas de Descentralização. Ao contrário dos contratos inteligentes tradicionais, o processo de decisão dos agentes de IA é influenciado por vários fatores e possui uma imprevisibilidade. Isso não só aumenta os riscos, mas também oferece uma oportunidade para potenciais atacantes."
Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica da IA, geralmente autorizados a operar por usuários, protocolos ou organizações autônomas descentralizadas (DAO). Entre eles, os robôs de negociação de IA são os representantes mais típicos. Atualmente, a maioria dos agentes de IA ainda opera na estrutura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a vários ataques, como injeções, manipulação de modelos ou adulteração de dados. Uma vez que um agente de IA é sequestrado, não apenas pode causar perdas financeiras, mas também pode afetar a estabilidade de todo o protocolo.
Os especialistas também discutiram um cenário típico de ataque: quando o agente de negociação de IA que os usuários de DeFi estão a executar está a monitorizar informações das redes sociais como sinais de negociação, os atacantes podem induzir o agente a iniciar uma liquidação de emergência imediatamente, publicando alarmes falsos, como "um determinado protocolo está a ser atacado". Isso não só pode resultar em perdas de ativos para os usuários, mas também pode provocar volatilidade no mercado, que os atacantes podem explorar para realizar negociações antecipadas.
Em relação a esses riscos, os especialistas presentes concordaram que a segurança dos agentes de IA deve ser responsabilidade conjunta dos usuários, desenvolvedores e instituições de segurança de terceiros. Os usuários precisam compreender claramente a extensão das permissões dos agentes, autorizar com cautela e monitorar de perto as operações de alto risco. Os desenvolvedores devem implementar medidas de defesa já na fase de design, como fortalecimento de prompts, isolamento em sandbox, limitação de taxa e lógica de retrocesso. As instituições de segurança de terceiros devem fornecer uma revisão independente do comportamento dos modelos dos agentes de IA, da infraestrutura e da forma de integração on-chain, e colaborar com todas as partes para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a ver os agentes de IA como uma 'caixa preta', será apenas uma questão de tempo até que ocorram acidentes de segurança no mundo real." Ele sugeriu aos desenvolvedores que estão explorando a direção do DeFAI: "A lógica de comportamento dos agentes de IA também é implementada por código. Sendo código, há a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança profissionais e testes de penetração."
Com o contínuo desenvolvimento da tecnologia blockchain e a gradual melhoria do ambiente regulatório, a fusão da IA com o Web3 continuará a aprofundar-se, mas ao mesmo tempo traz novos desafios de segurança. A indústria precisa unir esforços para, ao promover a inovação, melhorar continuamente as medidas de segurança, a fim de garantir o desenvolvimento saudável do DeFAI.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
15 Curtidas
Recompensa
15
4
Compartilhar
Comentário
0/400
NervousFingers
· 07-27 06:55
Tão complicado, não consigo jogar, não consigo jogar~
Ver originalResponder0
ThatsNotARugPull
· 07-27 06:55
Quanto mais se negocia, mais problemas de segurança surgem..
Ver originalResponder0
TokenToaster
· 07-27 06:47
É apenas um título enganador, quem entende, entende.
Ver originalResponder0
ETHReserveBank
· 07-27 06:33
Nada foi dito e já se está a colocar a culpa no usuário.
A fusão de IA e Web3: a ascensão do DeFAI traz novos desafios de segurança
AI e Web3: A ascensão da Descentralização da Inteligência Artificial Financeira e seus desafios de segurança
Recentemente, um importante evento de blockchain focado na tendência de fusão entre IA e Web3 ocorreu em Istambul. Este evento tornou-se uma plataforma importante este ano para discutir questões de segurança do Web3. Em duas mesas-redondas, vários especialistas da indústria realizaram discussões aprofundadas sobre o estado atual da aplicação da tecnologia de IA no setor de finanças descentralizadas (DeFi) e os desafios de segurança.
Com o rápido desenvolvimento de grandes modelos de linguagem e agentes de IA, um novo modelo financeiro — Descentralização de Inteligência Artificial Financeira (DeFAI) — está gradualmente a formar-se. No entanto, essa inovação também trouxe novas vulnerabilidades de segurança e ameaças potenciais.
Um executivo de uma empresa de segurança afirmou: "Embora o DeFAI tenha um grande potencial, precisamos reavaliar os mecanismos de confiança nos sistemas de Descentralização. Ao contrário dos contratos inteligentes tradicionais, o processo de decisão dos agentes de IA é influenciado por vários fatores e possui uma imprevisibilidade. Isso não só aumenta os riscos, mas também oferece uma oportunidade para potenciais atacantes."
Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica da IA, geralmente autorizados a operar por usuários, protocolos ou organizações autônomas descentralizadas (DAO). Entre eles, os robôs de negociação de IA são os representantes mais típicos. Atualmente, a maioria dos agentes de IA ainda opera na estrutura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a vários ataques, como injeções, manipulação de modelos ou adulteração de dados. Uma vez que um agente de IA é sequestrado, não apenas pode causar perdas financeiras, mas também pode afetar a estabilidade de todo o protocolo.
Os especialistas também discutiram um cenário típico de ataque: quando o agente de negociação de IA que os usuários de DeFi estão a executar está a monitorizar informações das redes sociais como sinais de negociação, os atacantes podem induzir o agente a iniciar uma liquidação de emergência imediatamente, publicando alarmes falsos, como "um determinado protocolo está a ser atacado". Isso não só pode resultar em perdas de ativos para os usuários, mas também pode provocar volatilidade no mercado, que os atacantes podem explorar para realizar negociações antecipadas.
Em relação a esses riscos, os especialistas presentes concordaram que a segurança dos agentes de IA deve ser responsabilidade conjunta dos usuários, desenvolvedores e instituições de segurança de terceiros. Os usuários precisam compreender claramente a extensão das permissões dos agentes, autorizar com cautela e monitorar de perto as operações de alto risco. Os desenvolvedores devem implementar medidas de defesa já na fase de design, como fortalecimento de prompts, isolamento em sandbox, limitação de taxa e lógica de retrocesso. As instituições de segurança de terceiros devem fornecer uma revisão independente do comportamento dos modelos dos agentes de IA, da infraestrutura e da forma de integração on-chain, e colaborar com todas as partes para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a ver os agentes de IA como uma 'caixa preta', será apenas uma questão de tempo até que ocorram acidentes de segurança no mundo real." Ele sugeriu aos desenvolvedores que estão explorando a direção do DeFAI: "A lógica de comportamento dos agentes de IA também é implementada por código. Sendo código, há a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança profissionais e testes de penetração."
Com o contínuo desenvolvimento da tecnologia blockchain e a gradual melhoria do ambiente regulatório, a fusão da IA com o Web3 continuará a aprofundar-se, mas ao mesmo tempo traz novos desafios de segurança. A indústria precisa unir esforços para, ao promover a inovação, melhorar continuamente as medidas de segurança, a fim de garantir o desenvolvimento saudável do DeFAI.