中信建投:OpenAI“超级对齐”取得进展,由弱到强泛化实现AI可控

新浪财经讯 中信建投研报指出,12月15日,OpenAI“超级对齐”团队发布了成立以来的首篇论文,开辟了对超级模型进行实证对齐的新研究方向。OpenAI认为,比人类聪明得多的人工智能(超级智能)可以在未来十年之内发展出来,然而如何正确的引导和控制超人的人工智能系统仍然没有得到很好的解决,解决AI的可控问题对于如何确保最先进的人工智能系统始终安全并造福人类至关重要。在最新的研究中,OpenAI实现了从弱模型监督强模型的任务,OpenAI使用GPT-2 模型来激发 GPT-4 的大部分能力,使其达到接近 GPT-3.5 级别的性能。实现了“弱到强泛化”(Weak-to-strong generalization),即让小模型监督大模型,为“超级对齐”提供了切实可行的技术路线。预期OpenAI将在“超级对齐”研究中取得持续突破,我们看好安全可控下的大模型行业发展前景。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)