Кризис управління OpenAI: погляд на реформу організаційної структури з перспективи DAO

Нещодавно гігант у сфері штучного інтелекту OpenAI опинився в кризі управління. Ця ситуація викликала глибокі роздуми в галузі щодо моделей організаційного управління, серед яких деякі пропонували перетворити OpenAI на децентралізовану автономну організацію (DAO). Хоча модель DAO не є бездоганною, але існуюча структура управління OpenAI дійсно має багато проблем. Якщо можна буде запозичити деякі з досвіду управління DAO, можливо, це допоможе уникнути подібних криз у майбутньому.

OpenAI, як неприбуткова організація, що прагне розробити безпечний загальний штучний інтелект (AGI) на благо всього людства, по суті є організацією, що створює суспільні блага. Це узгоджується з метою багатьох DAO. Проте нещодавні внутрішні заворушення в OpenAI не є наслідком самої організаційної структури, а викликані розмитістю та необґрунтованістю правил управління.

Наразі у ради директорів OpenAI залишилося лише 6 осіб, що значно менше від запланованих 9. Як вищий орган ухвалення рішень, рада не змогла своєчасно поповнити склад, що призвело до надмірної концентрації повноважень ухвалення рішень. Ще більш тривожним є те, що такі важливі рішення, як заміна CEO Сема Алтмана, фактично ухвалюються на закритих засіданнях частиною директорів, без запиту думки всіх членів ради та без врахування позицій інших зацікавлених сторін.

Навіть прибутковим публічним компаніям необхідно залучати незалежних директорів для підвищення прозорості управління та кращого представлення інтересів дрібних акціонерів і суспільства. Для таких важливих установ, як OpenAI, які мають відношення до розвитку основних технологій, соціальної безпеки та навіть долі людства, хоча зовнішні директори вже приєдналися, ця система явно не змогла в повній мірі виконати свою роль. OpenAI не лише необхідно залучити більше сил стримування, таких як представники працівників, але й потрібно створити більш ефективний механізм управління.

Оскільки DAO є моделлю управління, варто обговорити можливість розробки більш надійної, прозорої та інклюзивної структури управління для OpenAI. Варто зазначити, що коли DAO вперше було запропоновано, його основна ідея полягала в тому, щоб побудувати самодостатню систему через код, максимально зменшуючи людське втручання. Проте в реальності DAO часто потребують політичної координації, що в певній мірі суперечить початковій ідеї автономії.

Цікаво, що мета AGI також полягає в досягненні автономії. OpenAI у своєму визначенні організації чітко зазначає, що AGI – це високоавтономна система, яка може перевершити людські результати в більшості робіт з високою економічною цінністю. З більш глибокої точки зору принципів AGI та DAO мають на меті створення справжньої автономної системи, яка може функціонувати без зовнішнього контролю. Отже, як ми повинні управляти такими автономними системами? Чи варто більше покладатися на внутрішню узгодженість людських цінностей і навчання, чи додати більше зовнішніх обмежень? Це питання, яке потребує термінового розгляду в процесі розвитку від великих мовних моделей до AGI.

Останні новини щодо кризи OpenAI показують, що до 90% працівників готові звільнитися і піти за Семом Альтманом. Це явище відображає класичну дискусію в сфері DAO за останні роки: що важливіше - правила, що визначаються кодом, чи колективна згода спільноти?

Хоча правила і обмеження можуть формувати багато консенсусу, справжні великі консенсуси часто не створюються за допомогою правил. Тільки спільне почуття місії та культурні цінності можуть справді досягти глибокої резонансності та єдності. Ми вже знаємо, як створювати цю резонансність між людьми, але для ШІ це питання все ще залишається невирішеним.