Inversión en construcción de valores de China: La "superalineación" de OpenAI ha progresado, y la IA se ha generalizado de débil a fuerte para lograr la capacidad de control de la IA
El Informe de Investigación de Inversión en Construcción de Valores de China de Sina Financial News señaló que el 15 de diciembre, el equipo de "superalineación" de OpenAI publicó su primer documento desde su creación, abriendo una nueva dirección de investigación para la alineación empírica de supermodelos. OpenAI cree que la inteligencia artificial (superinteligencia) que es mucho más inteligente que los humanos puede desarrollarse en la próxima década, sin embargo, cómo guiar y controlar correctamente los sistemas de IA sobrehumanos aún no está bien resuelto, y resolver el problema controlable de la IA es crucial para garantizar que los sistemas de IA más avanzados estén siempre seguros y beneficien a la humanidad. En el último estudio, OpenAI ha logrado la tarea de supervisar modelos fuertes a partir de modelos débiles, y OpenAI utiliza el modelo GPT-2 para estimular la mayoría de las capacidades de GPT-4, lo que le permite lograr un rendimiento cercano a los niveles de GPT-3.5. Se realiza una "generalización de débil a fuerte", es decir, el modelo pequeño supervisa al modelo grande, lo que proporciona una ruta técnica práctica para la "superalineación". Se espera que OpenAI continúe haciendo avances en la investigación de "súper alineación", y somos optimistas sobre las perspectivas de desarrollo de la gran industria de modelos bajo seguridad y control.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Inversión en construcción de valores de China: La "superalineación" de OpenAI ha progresado, y la IA se ha generalizado de débil a fuerte para lograr la capacidad de control de la IA
El Informe de Investigación de Inversión en Construcción de Valores de China de Sina Financial News señaló que el 15 de diciembre, el equipo de "superalineación" de OpenAI publicó su primer documento desde su creación, abriendo una nueva dirección de investigación para la alineación empírica de supermodelos. OpenAI cree que la inteligencia artificial (superinteligencia) que es mucho más inteligente que los humanos puede desarrollarse en la próxima década, sin embargo, cómo guiar y controlar correctamente los sistemas de IA sobrehumanos aún no está bien resuelto, y resolver el problema controlable de la IA es crucial para garantizar que los sistemas de IA más avanzados estén siempre seguros y beneficien a la humanidad. En el último estudio, OpenAI ha logrado la tarea de supervisar modelos fuertes a partir de modelos débiles, y OpenAI utiliza el modelo GPT-2 para estimular la mayoría de las capacidades de GPT-4, lo que le permite lograr un rendimiento cercano a los niveles de GPT-3.5. Se realiza una "generalización de débil a fuerte", es decir, el modelo pequeño supervisa al modelo grande, lo que proporciona una ruta técnica práctica para la "superalineación". Se espera que OpenAI continúe haciendo avances en la investigación de "súper alineación", y somos optimistas sobre las perspectivas de desarrollo de la gran industria de modelos bajo seguridad y control.