Seguridad de la IA: encriptación completamente homomórfica o puede ser la solución
Recientemente, un sistema de IA llamado Manus ha logrado resultados extraordinarios en las pruebas de referencia GAIA, superando el rendimiento de modelos de lenguaje de gran tamaño de nivel similar. Manus ha demostrado la capacidad de completar tareas complejas de forma independiente, como negociaciones comerciales multinacionales, que implican análisis de contratos, formulación de estrategias y generación de propuestas, entre otros aspectos. En comparación con los sistemas tradicionales, Manus sobresale en la descomposición dinámica de objetivos, el razonamiento multimodal y el aprendizaje mejorado de memoria. Puede descomponer grandes tareas en numerosas subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia y precisión de la toma de decisiones a través del aprendizaje por refuerzo.
El avance de Manus ha vuelto a suscitar en la industria el debate sobre la trayectoria del desarrollo de la IA: ¿debería avanzar hacia la inteligencia artificial general (AGI) o debería ser dominada por sistemas multi-agente (MAS) en colaboración? Este debate refleja, en esencia, el problema central de cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más cerca esté la inteligencia individual de la AGI, mayor será el riesgo de falta de transparencia en su proceso de toma de decisiones; mientras que la colaboración entre múltiples agentes puede dispersar el riesgo, pero podría perder oportunidades clave de decisión debido a retrasos en la comunicación.
El desarrollo de Manus también destaca los riesgos de seguridad inherentes a los sistemas de IA. Por ejemplo, en escenarios médicos, puede implicar datos genéticos sensibles de pacientes; en negociaciones financieras, puede involucrar información financiera de empresas no divulgada. Además, los sistemas de IA pueden tener sesgos algorítmicos, como sugerencias salariales injustas para ciertos grupos durante el proceso de contratación. También existe el riesgo de ataques adversariales, donde los hackers pueden engañar al juicio de un sistema de IA a través de métodos especiales.
Estos desafíos destacan una tendencia preocupante: cuanto más inteligentes son los sistemas de IA, mayor es su superficie de ataque potencial.
En el ámbito de Web3, la seguridad siempre ha sido un punto central de atención. Actualmente se han desarrollado diversas tecnologías de encriptación para enfrentar estos desafíos:
Modelo de seguridad de cero confianza: este modelo requiere una verificación e autorización estrictas de cada solicitud de acceso, sin confiar en ningún dispositivo por defecto.
Identidad descentralizada (DID): Este es un nuevo estándar de identidad digital descentralizada que no requiere depender de sistemas de registro centralizados.
encriptación completamente homomórfica (FHE): esta es una tecnología de encriptación avanzada que permite realizar cálculos sobre datos en estado encriptado, sin necesidad de desencriptar.
La encriptación completamente homomórfica se considera una herramienta importante para resolver problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes aspectos:
A nivel de datos: toda la información ingresada por el usuario puede ser procesada en estado de encriptación, incluso el sistema de IA no puede descifrar los datos originales.
Nivel del algoritmo: A través de la FHE se realiza "entrenamiento de modelos encriptados", incluso los desarrolladores no pueden observar directamente el proceso de decisión de la IA.
En el aspecto colaborativo: La comunicación entre múltiples agentes de IA puede utilizar encriptación umbral, de modo que incluso si un solo nodo es comprometido, no se producirá una filtración de datos global.
En el ecosistema Web3, ya hay varios proyectos dedicados a explorar estas tecnologías de seguridad. Por ejemplo, uPort lanzó una solución de identidad descentralizada en 2017, y NKN lanzó su mainnet basada en un modelo de cero confianza en 2019. En el campo de la encriptación completamente homomórfica, Mind Network es el primer proyecto FHE en lanzarse en la mainnet y ha colaborado con varias instituciones reconocidas.
A medida que la tecnología de la IA se acerca cada vez más al nivel de inteligencia humana, se vuelve cada vez más importante establecer un sistema de defensa sólido. La encriptación completamente homomórfica no solo puede resolver los problemas de seguridad actuales, sino que también prepara el camino para una era de IA más poderosa en el futuro. En el camino hacia la AGI, la FHE puede no ser solo una opción, sino una condición necesaria para garantizar el funcionamiento seguro de los sistemas de IA.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
encriptación completamente homomórfica FHE: solución Web3 ante los desafíos de la Seguridad de la IA
Seguridad de la IA: encriptación completamente homomórfica o puede ser la solución
Recientemente, un sistema de IA llamado Manus ha logrado resultados extraordinarios en las pruebas de referencia GAIA, superando el rendimiento de modelos de lenguaje de gran tamaño de nivel similar. Manus ha demostrado la capacidad de completar tareas complejas de forma independiente, como negociaciones comerciales multinacionales, que implican análisis de contratos, formulación de estrategias y generación de propuestas, entre otros aspectos. En comparación con los sistemas tradicionales, Manus sobresale en la descomposición dinámica de objetivos, el razonamiento multimodal y el aprendizaje mejorado de memoria. Puede descomponer grandes tareas en numerosas subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia y precisión de la toma de decisiones a través del aprendizaje por refuerzo.
El avance de Manus ha vuelto a suscitar en la industria el debate sobre la trayectoria del desarrollo de la IA: ¿debería avanzar hacia la inteligencia artificial general (AGI) o debería ser dominada por sistemas multi-agente (MAS) en colaboración? Este debate refleja, en esencia, el problema central de cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más cerca esté la inteligencia individual de la AGI, mayor será el riesgo de falta de transparencia en su proceso de toma de decisiones; mientras que la colaboración entre múltiples agentes puede dispersar el riesgo, pero podría perder oportunidades clave de decisión debido a retrasos en la comunicación.
El desarrollo de Manus también destaca los riesgos de seguridad inherentes a los sistemas de IA. Por ejemplo, en escenarios médicos, puede implicar datos genéticos sensibles de pacientes; en negociaciones financieras, puede involucrar información financiera de empresas no divulgada. Además, los sistemas de IA pueden tener sesgos algorítmicos, como sugerencias salariales injustas para ciertos grupos durante el proceso de contratación. También existe el riesgo de ataques adversariales, donde los hackers pueden engañar al juicio de un sistema de IA a través de métodos especiales.
Estos desafíos destacan una tendencia preocupante: cuanto más inteligentes son los sistemas de IA, mayor es su superficie de ataque potencial.
En el ámbito de Web3, la seguridad siempre ha sido un punto central de atención. Actualmente se han desarrollado diversas tecnologías de encriptación para enfrentar estos desafíos:
Modelo de seguridad de cero confianza: este modelo requiere una verificación e autorización estrictas de cada solicitud de acceso, sin confiar en ningún dispositivo por defecto.
Identidad descentralizada (DID): Este es un nuevo estándar de identidad digital descentralizada que no requiere depender de sistemas de registro centralizados.
encriptación completamente homomórfica (FHE): esta es una tecnología de encriptación avanzada que permite realizar cálculos sobre datos en estado encriptado, sin necesidad de desencriptar.
La encriptación completamente homomórfica se considera una herramienta importante para resolver problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes aspectos:
A nivel de datos: toda la información ingresada por el usuario puede ser procesada en estado de encriptación, incluso el sistema de IA no puede descifrar los datos originales.
Nivel del algoritmo: A través de la FHE se realiza "entrenamiento de modelos encriptados", incluso los desarrolladores no pueden observar directamente el proceso de decisión de la IA.
En el aspecto colaborativo: La comunicación entre múltiples agentes de IA puede utilizar encriptación umbral, de modo que incluso si un solo nodo es comprometido, no se producirá una filtración de datos global.
En el ecosistema Web3, ya hay varios proyectos dedicados a explorar estas tecnologías de seguridad. Por ejemplo, uPort lanzó una solución de identidad descentralizada en 2017, y NKN lanzó su mainnet basada en un modelo de cero confianza en 2019. En el campo de la encriptación completamente homomórfica, Mind Network es el primer proyecto FHE en lanzarse en la mainnet y ha colaborado con varias instituciones reconocidas.
A medida que la tecnología de la IA se acerca cada vez más al nivel de inteligencia humana, se vuelve cada vez más importante establecer un sistema de defensa sólido. La encriptación completamente homomórfica no solo puede resolver los problemas de seguridad actuales, sino que también prepara el camino para una era de IA más poderosa en el futuro. En el camino hacia la AGI, la FHE puede no ser solo una opción, sino una condición necesaria para garantizar el funcionamiento seguro de los sistemas de IA.