China Securities Construction Investment: O "super alinhamento" da OpenAI fez progressos, e a IA foi generalizada de fraca para forte para alcançar a controlabilidade da IA
Sina Financial News China Securities Construction Investment Research Report apontou que, em 15 de dezembro, a equipe de "super alinhamento" da OpenAI divulgou seu primeiro artigo desde sua criação, abrindo uma nova direção de pesquisa para o alinhamento empírico de supermodelos. A OpenAI acredita que a inteligência artificial (superinteligência) que é muito mais inteligente do que os humanos pode ser desenvolvida na próxima década, no entanto, como orientar e controlar corretamente sistemas de IA sobre-humanos ainda não está bem resolvido, e resolver o problema controlável da IA é crucial para garantir que os sistemas de IA mais avançados sejam sempre seguros e beneficiem a humanidade. No estudo mais recente, a OpenAI alcançou a tarefa de supervisionar modelos fortes a partir de modelos fracos, e a OpenAI usa o modelo GPT-2 para estimular a maioria das capacidades do GPT-4, permitindo-lhe alcançar um desempenho próximo dos níveis GPT-3.5. Realiza-se a "generalização fraca para forte", ou seja, o modelo pequeno supervisiona o modelo grande, o que fornece uma rota técnica prática para o "super alinhamento". Espera-se que a OpenAI continue a fazer avanços na pesquisa de "super alinhamento", e estamos otimistas sobre as perspetivas de desenvolvimento da indústria de grandes modelos sob segurança e controle.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
China Securities Construction Investment: O "super alinhamento" da OpenAI fez progressos, e a IA foi generalizada de fraca para forte para alcançar a controlabilidade da IA
Sina Financial News China Securities Construction Investment Research Report apontou que, em 15 de dezembro, a equipe de "super alinhamento" da OpenAI divulgou seu primeiro artigo desde sua criação, abrindo uma nova direção de pesquisa para o alinhamento empírico de supermodelos. A OpenAI acredita que a inteligência artificial (superinteligência) que é muito mais inteligente do que os humanos pode ser desenvolvida na próxima década, no entanto, como orientar e controlar corretamente sistemas de IA sobre-humanos ainda não está bem resolvido, e resolver o problema controlável da IA é crucial para garantir que os sistemas de IA mais avançados sejam sempre seguros e beneficiem a humanidade. No estudo mais recente, a OpenAI alcançou a tarefa de supervisionar modelos fortes a partir de modelos fracos, e a OpenAI usa o modelo GPT-2 para estimular a maioria das capacidades do GPT-4, permitindo-lhe alcançar um desempenho próximo dos níveis GPT-3.5. Realiza-se a "generalização fraca para forte", ou seja, o modelo pequeno supervisiona o modelo grande, o que fornece uma rota técnica prática para o "super alinhamento". Espera-se que a OpenAI continue a fazer avanços na pesquisa de "super alinhamento", e estamos otimistas sobre as perspetivas de desenvolvimento da indústria de grandes modelos sob segurança e controle.