Investissement dans la construction de titres en Chine : Le « super alignement » d’OpenAI a fait des progrès, et l’IA a été généralisée de faible à forte pour atteindre la contrôlabilité de l’IA
Le rapport de recherche sur l’investissement dans la construction de titres chinois de Sina Financial News a souligné que le 15 décembre, l’équipe « super alignement » d’OpenAI a publié son premier article depuis sa création, ouvrant une nouvelle direction de recherche pour l’alignement empirique des supermodèles. OpenAI pense que l’intelligence artificielle (superintelligence) qui est beaucoup plus intelligente que les humains peut être développée au cours de la prochaine décennie, cependant, la façon de guider et de contrôler correctement les systèmes d’IA surhumains n’est toujours pas bien résolue, et la résolution du problème contrôlable de l’IA est cruciale pour s’assurer que les systèmes d’IA les plus avancés sont toujours sûrs et profitent à l’humanité. Dans la dernière étude, OpenAI a accompli la tâche de superviser les modèles forts à partir de modèles faibles, et OpenAI utilise le modèle GPT-2 pour stimuler la plupart des capacités de GPT-4, ce qui lui permet d’atteindre des performances proches des niveaux GPT-3.5. La « généralisation faible à forte » est réalisée, c’est-à-dire que le petit modèle supervise le grand modèle, ce qui fournit une voie technique pratique pour le « super alignement ». On s’attend à ce qu’OpenAI continue de faire des percées dans la recherche sur le « super alignement », et nous sommes optimistes quant aux perspectives de développement de l’industrie des grands modèles sous la sécurité et le contrôle.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Investissement dans la construction de titres en Chine : Le « super alignement » d’OpenAI a fait des progrès, et l’IA a été généralisée de faible à forte pour atteindre la contrôlabilité de l’IA
Le rapport de recherche sur l’investissement dans la construction de titres chinois de Sina Financial News a souligné que le 15 décembre, l’équipe « super alignement » d’OpenAI a publié son premier article depuis sa création, ouvrant une nouvelle direction de recherche pour l’alignement empirique des supermodèles. OpenAI pense que l’intelligence artificielle (superintelligence) qui est beaucoup plus intelligente que les humains peut être développée au cours de la prochaine décennie, cependant, la façon de guider et de contrôler correctement les systèmes d’IA surhumains n’est toujours pas bien résolue, et la résolution du problème contrôlable de l’IA est cruciale pour s’assurer que les systèmes d’IA les plus avancés sont toujours sûrs et profitent à l’humanité. Dans la dernière étude, OpenAI a accompli la tâche de superviser les modèles forts à partir de modèles faibles, et OpenAI utilise le modèle GPT-2 pour stimuler la plupart des capacités de GPT-4, ce qui lui permet d’atteindre des performances proches des niveaux GPT-3.5. La « généralisation faible à forte » est réalisée, c’est-à-dire que le petit modèle supervise le grand modèle, ce qui fournit une voie technique pratique pour le « super alignement ». On s’attend à ce qu’OpenAI continue de faire des percées dans la recherche sur le « super alignement », et nous sommes optimistes quant aux perspectives de développement de l’industrie des grands modèles sous la sécurité et le contrôle.