谷歌DeepMind的资深人士筹集11亿美元，打造不依赖人类数据训练的人工智能

简要概述

• DeepMind 老兵 David Silver 为他的新创业公司 Ineffable Intelligence 融资11亿美元，估值51亿美元。
• Silver 表示，强化学习，而非大型语言模型，是通向超级智能的最佳路径。
• 这家创业公司旨在构建通过模拟和自我对弈学习的“超级学习者”AI。

DeepMind 科学家 David Silver，曾在2016年带领 AlphaGo 战胜世界围棋冠军李世石，已筹集11亿美元启动一家创业公司，押注下一代AI不会来自当今占主导地位的技术。 Silver 的公司 Ineffable Intelligence 于一月成立，估值51亿美元，押注于强化学习，这是一种通过试错不断改进的AI方法。Silver 认为，这种方法，而非目前主导领域的大型语言模型，提供了通向超级智能的更可靠途径。 “我认为我们的使命是与超级智能取得首次接触，” Silver 在 Wired 中表示。“所谓超级智能，我真正指的是一些令人难以置信的东西。它应该能自主发现新的科学、技术、政府或经济形式。”

由哲学家 Nick Bostrom 在其2014年著作《超级智能》中普及的这个术语，指的是在几乎所有领域都超越人类智能的AI，而人工通用智能（AGI）则描述能够在广泛任务中匹配人类推理能力的系统。  Silver 认为，大型语言模型的根本限制在于它们从人类生成的数据中学习，而不是通过经验建立自己的理解。 “人类数据就像一种化石燃料，提供了一个惊人的捷径，”他说。“你可以把自主学习的系统看作是一种可再生燃料——它可以无限学习、不断学习，没有限制。”

Silver 在其职业生涯中一直在推动这一观点。AlphaGo 结合了人类训练数据、强化学习和自我对弈，开发出令顶尖人类玩家都感到惊讶的策略，展示了AI在狭窄领域超越人类先例的能力。 “我觉得非常重要的是，有一个专注于这种方法的精英AI实验室，” 他告诉 Wired。“而不是其他地方只专注于LLMs的角落。” Ineffable Intelligence 计划构建 Silver 所称的“超级学习者”——放置在模拟环境中的AI代理，在那里它们可以追求目标、失败、适应和改进，而不受静态人类数据集的限制。Silver 拒绝描述这些模拟会是什么样子，但表示这种方法将允许代理自主协作和发展能力。 Silver 认为，大型语言模型受到训练数据的限制，他补充说，如果一个模型在一个所有人都相信地球是平的的世界中训练，它可能会继续保持这种信念，除非它能自己测试现实。他说，通过经验学习的系统可能会发现不同的真相。 Ineffable Intelligence 未立即回应 Decrypt 的置评请求。