中国証券建設投資:OpenAIの「スーパーアライメント」が進み、AIの制御性を実現するためにAIを弱いものから強いものに一般化

新浪金融報 中国証券建設投資研究報告書は12月15日、OpenAIの「スーパーアライメント」チームが設立以来初の論文を発表し、スーパーモデルの経験的アライメントに関する新たな研究の方向性を開いたと指摘した。 OpenAIは、今後10年間で人間よりもはるかに賢い人工知能(超知能)を開発できると考えていますが、超人的なAIシステムを正しく誘導および制御する方法はまだ十分に解決されておらず、最先端のAIシステムが常に安全で人類に利益をもたらすには、AIの制御可能な問題を解決することが重要です。 最新の研究で、OpenAIは弱いモデルから強いモデルを監督するタスクを達成し、OpenAIはGPT-2モデルを使用してGPT-4の機能のほとんどを刺激し、GPT-3.5レベルに近いパフォーマンスを達成できるようにしました。 「弱から強への一般化」が実現され、つまり、小さなモデルが大きなモデルを監督し、「スーパーアライメント」の実用的な技術的ルートを提供します。 OpenAIは今後も「スーパーアライメント」研究で躍進を遂げることが期待されており、セキュリティと管理下にある大規模モデル産業の発展見通しについては楽観的です。