Кризис управления OpenAI: реформирование организационной структуры с точки зрения DAO

Недавно гигант в области искусственного интеллекта OpenAI оказался в центре кризиса управления. Этот инцидент вызвал глубокие размышления в отрасли о моделях организационного управления, среди которых не хватало предложений о превращении OpenAI в децентрализованную автономную организацию (DAO). Хотя модель DAO не является идеальной, существующая структура управления OpenAI действительно имеет множество проблем. Если можно извлечь некоторые ценные уроки из опыта управления DAO, возможно, это поможет избежать подобных кризисов в будущем.

OpenAI, как некоммерческая организация, стремящаяся разработать безопасный универсальный искусственный интеллект (AGI) и принести пользу всему человечеству, по своей сути является организацией, создающей общественные блага. Это совпадает с целью многих DAO. Однако недавние внутренние волнения в OpenAI не были вызваны самой организационной структурой, а стали следствием неясности и неразумности правил управления.

В настоящее время в совете директоров OpenAI осталось всего 6 человек, что значительно ниже запланированных 9. В качестве высшего органа принятия решений совет не смог своевременно пополнить состав, что привело к чрезмерной концентрации полномочий. Еще более беспокоит тот факт, что такие серьезные решения, как замена генерального директора Сэма Альтмана, принимаются на закрытых заседаниях лишь некоторыми членами совета, без учета мнения всех членов совета и без рассмотрения позиций других заинтересованных сторон.

Даже коммерческим публичным компаниям необходимо привлекать независимых директоров для повышения прозрачности управления и лучшего представления интересов малых и средних акционеров и общественности. Для OpenAI, важной организации, касающейся развития базовых технологий, социальной безопасности и даже судьбы человечества, несмотря на то, что внешние директора уже присоединились, эта система, очевидно, не смогла полностью реализовать свой потенциал. OpenAI необходимо не только привлечь больше сдерживающих сил, таких как представители сотрудников, но и создать более эффективный механизм управления.

Рассмотрение модели управления DAO для разработки более устойчивой, прозрачной и инклюзивной структуры управления для OpenAI может быть достойным направлением для обсуждения. Стоит отметить, что изначально, когда DAO были предложены, их основной идеей было создание самодостаточной системы с помощью кода, чтобы максимально уменьшить человеческое вмешательство. Однако в реальности DAO часто требуют человеческой политической координации, что в определенной степени противоречит первоначальной идее автономности.

Интересно, что цель AGI также заключается в стремлении к автономности. OpenAI в своем определении организации четко указывает, что AGI представляет собой высокоавтономную систему, способную превосходить человеческие результаты в большинстве работ с высокой экономической ценностью. С более глубокой точки зрения, AGI и DAO нацелены на создание действительно автономной системы, способной функционировать без внешнего контроля. Таким образом, как нам следует управлять такой автономной системой? Полагаться ли больше на внутренние человеческие ценности для выравнивания и обучения или же вводить больше внешних ограничений? Это вопрос, который необходимо обдумать в процессе перехода от больших языковых моделей к AGI.

Последние события вокруг кризиса OpenAI показывают, что до 90% сотрудников готовы уволиться и последовать за Сэмом Альтманом. Это явление отзывается на классическую дискуссию в области DAO за последние годы: что важнее, правила, ограниченные кодом, или коллективный консенсус сообщества?

Хотя правила и ограничения могут сформировать множество согласий, истинно великое согласие часто не создается правилами. Только общая цель и культурные ценности могут действительно достичь глубокого резонирования и единства. Мы уже знаем, как создавать такое резонирование между людьми, но для ИИ этот вопрос все еще остается нерешенным.