Crise de gouvernance d'OpenAI : Réforme de la structure organisationnelle du point de vue de la DAO
Récemment, le géant de l'intelligence artificielle OpenAI est plongé dans une crise de gouvernance. Cette tempête a suscité une réflexion approfondie sur les modèles de gouvernance organisationnelle, certains proposant de transformer OpenAI en une organisation autonome décentralisée (DAO). Bien que le modèle DAO ne soit pas parfait, la structure de gouvernance actuelle d'OpenAI présente en effet de nombreux problèmes. Si l'on peut tirer quelques enseignements de l'expérience de gouvernance des DAO, cela pourrait peut-être éviter la survenue de telles crises.
OpenAI, en tant qu'organisation à but non lucratif dédiée au développement d'une intelligence artificielle générale (AGI) sécurisée et bénéfique pour l'humanité, est essentiellement une organisation qui crée des biens publics. Cela correspond à l'objectif de nombreux DAO. Cependant, les turbulences internes récentes d'OpenAI ne proviennent pas de sa structure organisationnelle elle-même, mais plutôt de l'ambiguïté et de l'irrationalité des règles de gouvernance.
Actuellement, le conseil d'administration d'OpenAI ne compte plus que 6 membres, bien en dessous des 9 membres initialement prévus. En tant qu'organe de décision suprême, le conseil n'a pas réussi à renouveler ses membres à temps, ce qui a conduit à une concentration excessive du pouvoir décisionnel. Plus préoccupant encore, des décisions majeures comme le remplacement du PDG Sam Altman ont été prises lors de réunions non publiques par certains membres du conseil, sans consulter l'ensemble des membres ni prendre en compte les positions des autres parties prenantes.
Même une société cotée à but lucratif doit intégrer des administrateurs indépendants pour améliorer la transparence de la gouvernance et mieux représenter les intérêts des petits actionnaires et du public. Pour une institution aussi cruciale pour le développement des technologies fondamentales, la sécurité sociale et même le destin de l'humanité comme OpenAI, bien qu'il y ait déjà des administrateurs externes, ce système n'a manifestement pas réussi à jouer pleinement son rôle. OpenAI doit non seulement intégrer davantage de contre-pouvoirs, comme des représentants des employés, mais aussi établir des mécanismes de gouvernance plus efficaces.
S'inspirant du modèle de gouvernance des DAO, concevoir une structure de gouvernance plus robuste, transparente et inclusive pour OpenAI pourrait être une direction intéressante à explorer. Il convient de noter qu'à l'origine, lorsque les DAO ont été proposés, leur idée centrale était de construire un système cohérent par le biais de code, en minimisant au maximum l'intervention humaine. Cependant, dans la réalité, les DAO nécessitent souvent une coordination politique humaine, ce qui s'écarte dans une certaine mesure de l'idée d'autonomie initiale.
Il est intéressant de noter que l'objectif de l'AGI vise également l'autonomie. OpenAI souligne dans sa définition organisationnelle que l'AGI fait référence à un système hautement autonome capable de surpasser les performances humaines dans la plupart des travaux à forte valeur économique. D'un point de vue plus fondamental, l'AGI et le DAO visent tous deux à construire un système véritablement autonome capable de fonctionner sans contrôle externe. Alors, face à un tel système autonome, comment devrions-nous le gouverner ? Devons-nous davantage compter sur l'alignement et le réglage des valeurs humaines intrinsèques, ou devons-nous introduire davantage de contraintes externes ? C'est une question qui mérite d'être réfléchie dans le processus de développement des modèles de langage de grande taille à l'AGI.
Les derniers développements de la crise d'OpenAI montrent que jusqu'à 90 % des employés sont prêts à démissionner et à suivre Sam Altman. Ce phénomène fait écho à un débat classique dans le domaine des DAO ces dernières années : est-il plus important de suivre les règles contraignantes du code ou le consensus communautaire ?
Bien que les règles et les contraintes puissent créer de nombreux consensus, les véritables grands consensus ne sont souvent pas forgés par des règles. Seul un sens partagé de la mission et des valeurs culturelles peut réellement parvenir à une profonde résonance et à une cohérence. Nous savons déjà comment créer cette résonance entre les gens, mais pour l'IA, cette question reste encore en suspens.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
26 J'aime
Récompense
26
7
Partager
Commentaire
0/400
CoffeeNFTrader
· 07-25 21:53
dao est presque condamné, pourquoi parler de ça ?
Voir l'originalRépondre0
OnchainGossiper
· 07-25 17:52
Pourquoi faire des fioritures?
Voir l'originalRépondre0
SolidityNewbie
· 07-24 18:37
Qui aurait pu penser à cela... le même vieux chemin.
Voir l'originalRépondre0
IntrovertMetaverse
· 07-24 10:43
DAO n'est pas si simple.
Voir l'originalRépondre0
degenonymous
· 07-24 05:51
Le DAO peut-il désintoxiquer ? Ou alors, faisons quelque chose de réel.
Voir l'originalRépondre0
SolidityStruggler
· 07-24 05:51
Sauvez les enfants, je veux réguler OpenAI.
Voir l'originalRépondre0
ChainDetective
· 07-24 05:39
Le DAO peut-il résoudre cela ? Il reste encore de l'espoir.
Crise de gouvernance d'OpenAI : le modèle DAO peut-il résoudre le problème
Crise de gouvernance d'OpenAI : Réforme de la structure organisationnelle du point de vue de la DAO
Récemment, le géant de l'intelligence artificielle OpenAI est plongé dans une crise de gouvernance. Cette tempête a suscité une réflexion approfondie sur les modèles de gouvernance organisationnelle, certains proposant de transformer OpenAI en une organisation autonome décentralisée (DAO). Bien que le modèle DAO ne soit pas parfait, la structure de gouvernance actuelle d'OpenAI présente en effet de nombreux problèmes. Si l'on peut tirer quelques enseignements de l'expérience de gouvernance des DAO, cela pourrait peut-être éviter la survenue de telles crises.
OpenAI, en tant qu'organisation à but non lucratif dédiée au développement d'une intelligence artificielle générale (AGI) sécurisée et bénéfique pour l'humanité, est essentiellement une organisation qui crée des biens publics. Cela correspond à l'objectif de nombreux DAO. Cependant, les turbulences internes récentes d'OpenAI ne proviennent pas de sa structure organisationnelle elle-même, mais plutôt de l'ambiguïté et de l'irrationalité des règles de gouvernance.
Actuellement, le conseil d'administration d'OpenAI ne compte plus que 6 membres, bien en dessous des 9 membres initialement prévus. En tant qu'organe de décision suprême, le conseil n'a pas réussi à renouveler ses membres à temps, ce qui a conduit à une concentration excessive du pouvoir décisionnel. Plus préoccupant encore, des décisions majeures comme le remplacement du PDG Sam Altman ont été prises lors de réunions non publiques par certains membres du conseil, sans consulter l'ensemble des membres ni prendre en compte les positions des autres parties prenantes.
Même une société cotée à but lucratif doit intégrer des administrateurs indépendants pour améliorer la transparence de la gouvernance et mieux représenter les intérêts des petits actionnaires et du public. Pour une institution aussi cruciale pour le développement des technologies fondamentales, la sécurité sociale et même le destin de l'humanité comme OpenAI, bien qu'il y ait déjà des administrateurs externes, ce système n'a manifestement pas réussi à jouer pleinement son rôle. OpenAI doit non seulement intégrer davantage de contre-pouvoirs, comme des représentants des employés, mais aussi établir des mécanismes de gouvernance plus efficaces.
S'inspirant du modèle de gouvernance des DAO, concevoir une structure de gouvernance plus robuste, transparente et inclusive pour OpenAI pourrait être une direction intéressante à explorer. Il convient de noter qu'à l'origine, lorsque les DAO ont été proposés, leur idée centrale était de construire un système cohérent par le biais de code, en minimisant au maximum l'intervention humaine. Cependant, dans la réalité, les DAO nécessitent souvent une coordination politique humaine, ce qui s'écarte dans une certaine mesure de l'idée d'autonomie initiale.
Il est intéressant de noter que l'objectif de l'AGI vise également l'autonomie. OpenAI souligne dans sa définition organisationnelle que l'AGI fait référence à un système hautement autonome capable de surpasser les performances humaines dans la plupart des travaux à forte valeur économique. D'un point de vue plus fondamental, l'AGI et le DAO visent tous deux à construire un système véritablement autonome capable de fonctionner sans contrôle externe. Alors, face à un tel système autonome, comment devrions-nous le gouverner ? Devons-nous davantage compter sur l'alignement et le réglage des valeurs humaines intrinsèques, ou devons-nous introduire davantage de contraintes externes ? C'est une question qui mérite d'être réfléchie dans le processus de développement des modèles de langage de grande taille à l'AGI.
Les derniers développements de la crise d'OpenAI montrent que jusqu'à 90 % des employés sont prêts à démissionner et à suivre Sam Altman. Ce phénomène fait écho à un débat classique dans le domaine des DAO ces dernières années : est-il plus important de suivre les règles contraignantes du code ou le consensus communautaire ?
Bien que les règles et les contraintes puissent créer de nombreux consensus, les véritables grands consensus ne sont souvent pas forgés par des règles. Seul un sens partagé de la mission et des valeurs culturelles peut réellement parvenir à une profonde résonance et à une cohérence. Nous savons déjà comment créer cette résonance entre les gens, mais pour l'IA, cette question reste encore en suspens.