Сам Альтман написал после того, как в его дом бросили зажигательную бутылку: я люблю свою семью и верю, что ИИ принадлежит всем людям

Автор: Сэм Альтман

Перевод: Deep潮 TechFlow

Deep潮 Введение: Кто-то в 3:45 ночи бросил бутылку с зажигательной смесью в дом Сэма Альтмана. Он редко публикует семейные фотографии, надеясь, что это остановит следующего человека. Эта статья — не только обвинение в нападении, он также впервые полностью изложил свои взгляды на ИИ: ИИ должен быть демократизирован, небольшие лаборатории не должны решать будущее человечества, а искушение “не вернуться после появления AGI” наполняет эту область шекспировскими драматическими конфликтами.

Это фотография моей семьи. Я люблю их больше всего на свете.

Я надеюсь, что изображение обладает силой. Обычно мы сохраняем довольно много личной информации, но в этом случае я делюсь фотографией, надеясь, что она сможет остановить следующего человека от бросания бутылки в нашу семью, независимо от того, как он меня воспринимает.

Первый человек сделал это прошлой ночью, в 3:45 ночи. К счастью, он отскочил от дома, никто не пострадал.

Слова тоже имеют силу. Несколько дней назад вышла провокационная статья обо мне. Вчера кто-то сказал мне, что считают, что эта статья появилась в разгар сильной тревоги по поводу ИИ, что делает мое положение еще более опасным. Тогда я не придал этому значения.

Теперь я проснулся посреди ночи, очень злой, и понимаю, что недооценил силу слов и нарратива. Кажется, самое подходящее время поговорить о нескольких вещах.

Во-первых, мои убеждения.

Стремление к процветанию каждого, расширение возможностей всех, продвижение науки и технологий — это для меня моральный долг.

ИИ станет самым мощным инструментом расширения человеческих способностей и потенциала. Потребность в этом инструменте практически безгранична, люди будут использовать его для невероятных вещей. Мир должен иметь множество ИИ, и мы должны понять, как этого добиться.

Не все будет гладко. Страх и тревога по поводу ИИ оправданы; мы становимся свидетелями, возможно, крупнейших изменений в обществе за всю историю. Мы должны обеспечить безопасность, и это не только согласование модели — нам срочно нужно участие всего общества для реагирования на новые угрозы. Это включает новые политики, помогающие пройти через трудный экономический переход к лучшему будущему.

ИИ должен быть демократизирован; власть не должна сосредотачиваться в одних руках. Контроль над будущим принадлежит всем людям и их институтам. ИИ должен расширять возможности отдельных лиц, мы должны коллективно решать наше будущее и новые правила. Я не считаю правильным, чтобы несколько лабораторий ИИ принимали самые важные решения о нашей будущей форме.

Адаптивность — ключ к успеху. Мы все очень быстро учимся новому; некоторые наши убеждения окажутся правильными, некоторые — ошибочными, иногда нам нужно быстро менять мнение по мере развития технологий и общества. Никто еще не понимает полностью влияние сверхинтеллекта, но оно будет огромным.

Во-вторых, личные размышления.

Когда я оглядываюсь на свою работу в OpenAI за первые десять лет, я могу назвать много вещей, которыми горжусь, и множество ошибок.

Я думаю о нашем предстоящем суде с Илоном и вспоминаю, как я настаивал на том, чтобы не соглашаться с его желанием одностороннего контроля над OpenAI. Я горжусь этим, горжусь тем, что мы прошли по узкому пути, который позволил OpenAI продолжать существовать, и всеми последующими достижениями.

Я горжусь тем, что не избегал конфликты, хотя это приносило мне и OpenAI огромную боль. Я не горжусь тем, как неправильно я поступил в конфликте с бывшим советом директоров, что вызвало хаос в компании. В безумной траектории OpenAI я совершил много других ошибок; я — человек с недостатками, оказавшийся в очень сложной ситуации, пытающийся становиться лучше каждый год, всегда работая ради миссии. Мы изначально знали, насколько велики риски ИИ, и что личные разногласия между добросовестными людьми могут быть очень сильно раздуты. Но пережить эти острые конфликты и часто быть вынужденным их арбитражировать — это совсем другое, и цена за это высока. Я сожалею о тех, кого я обидел, и надеюсь, что учусь быстрее.

Я также очень ясно понимаю, что сейчас OpenAI — это крупная платформа, а не маленький стартап, и нам нужно работать более предсказуемо. Последние годы были чрезвычайно напряженными, хаотичными и стрессовыми.

Но я горжусь тем, что мы реализуем нашу миссию, что казалось почти невозможным в начале. Преодолев все трудности, мы научились создавать очень мощных ИИ, собирать достаточный капитал для инфраструктуры его доставки, создавать продуктовые компании и бизнесы, масштабировать безопасные и надежные услуги — и многое другое. Многие компании заявляют, что хотят изменить мир; мы действительно это сделали.

В-третьих, несколько мыслей о нашей индустрии.

Мои личные выводы за последние годы и понимание, почему в нашей области так много шекспировских драм, сводятся к одному: “Как только ты увидишь AGI, ты не сможешь не увидеть его.” У него есть настоящая динамика “кольца власти”, которая заставляет людей совершать безумные поступки. Я не говорю, что AGI сама по себе — это кольцо, а скорее — это тоталитарная философия “стать тем, кто контролирует AGI”.

Единственное решение, которое я могу представить, — это движение к широкому распространению технологий и отсутствию у кого-либо кольца. Два очевидных способа добиться этого — расширение возможностей отдельных людей и обеспечение контроля демократических систем.

Важно, чтобы демократический процесс был сильнее, чем компании. Законодательство и нормы будут меняться, но мы должны работать внутри демократических процедур, даже если это будет хаотично и медленнее, чем хотелось бы. Мы хотим быть голосом и заинтересованными сторонами, но не обладать всей властью.

Многие критики нашей отрасли искренне обеспокоены высокими рисками этой технологии. Это очень разумно, и мы приветствуем доброжелательную критику и дебаты. Я разделяю антивоенные настроения, очевидно, что технологии не всегда хороши для всех. Но в целом я верю, что технологический прогресс может сделать будущее невероятно хорошим — для твоей семьи и моей.

Когда мы ведем эти дебаты, нам следует снизить тон и стратегию, и стараться избегать взрывов в меньших домах, будь то метафорически или буквально.