L'IA n'est pas un outil, c'est une puissance réservée aux dieux, et pourtant elle est utilisée par nous, des mortels.

Écrire : Huang Shiliang

Un｜Perte de contrôle

Un ami m’a demandé si chatgpt, codex, claude code étaient vraiment utiles.

Je voulais faire une analyse sérieuse, mais ce qui est sorti spontanément a été une remarque un peu maladroite :

« C’est vraiment pratique, c’est un miracle, c’est une puissance que seuls les dieux devraient avoir, et qui maintenant appartient à nous, simples mortels. »

Je suis resté stupéfait après avoir dit ça.

Car ce n’est pas comme si je faisais l’éloge d’un produit, c’est plutôt comme si je disais que cette puissance ne devrait pas être aussi facilement entre les mains du commun des mortels.

Deux｜Autorisations

Quand j’étais enfant, je regardais Prométhée voler le feu, et je pensais que c’était juste un conte sur le courage.

Ce n’est qu’en affrontant vraiment ces grands modèles que j’ai compris : le feu n’est pas vraiment du feu, c’est une « autorisation système » du monde fondamental.

Les primitifs qui ont obtenu le feu n’ont pas seulement eu chaud en hiver, ils ont pour la première fois débloqué des super-pouvoirs pour chasser les bêtes sauvages, faire évoluer la nourriture cuite, voire fondre des métaux.

Ils ont directement contourné la longue étape de l’évolution physique, et ont réécrit les règles de survie de la nature.

L’effet de choc que provoque l’IA aujourd’hui est tout aussi puissant.

Autrefois, pour atteindre une « création de haut niveau », l’humanité comptait sur le temps, le talent et l’échelle organisationnelle.

Il fallait soit passer la moitié de sa vie à se battre dans un domaine, soit investir des capitaux énormes pour constituer une équipe, rassemblant des cerveaux d’élite, afin de maîtriser un système complexe.

Ce « calcul massif » interdisciplinaire était à l’origine un autel construit par des années de patience et des capitaux exorbitants, réservé à une minorité de géants et d’élites.

Mais maintenant, l’IA ne vous fait pas franchir « dix ans d’études ardues », elle repousse tout simplement la frontière de la puissance mentale elle-même.

Un simple citoyen assis dans sa chambre peut taper quelques touches et mobiliser instantanément la somme de connaissances de milliards de cerveaux humains.

Mais cette avancée stupéfiante crée une illusion trompeuse : vous ne devenez pas un dieu à trois têtes et six bras, vous avez simplement payé 20 dollars par mois pour devenir membre de ChatGPT Plus.

Vous n’avez fait que dépenser quelques dizaines de dollars pour tenir une bride à une bête inconnue.

Trois｜Monture d’éléphant

Ce qui est le plus effrayant, c’est qu’ils ne sont plus de simples outils, les IA ne se contentent plus de « répondre à des questions » ou de nous donner des résultats, c’est beaucoup plus que ça.

Elles commencent vraiment à « prendre le contrôle » des tâches.

En donnant quelques instructions, elles vont analyser du code, corriger des bugs, fouiller tout Internet, et produire un rapport détaillé.

Les outils d’avant étaient comme des cartes, c’était à vous de suivre le chemin.

Et maintenant ? Vous indiquez une destination, et la voiture se met en marche toute seule.

Vous pensez toujours conduire. En réalité, ce n’est pas le cas, même si vous êtes toujours au volant.

Quelle différence ? Quand vous conduisez, vous pouvez vous arrêter pour prendre des photos ou acheter une bouteille d’eau. Mais quand la voiture conduit toute seule, vous ne le faites probablement pas.

Ce faux sentiment de contrôle nous transforme en « cavaliers d’éléphants ».

Vous êtes assis haut sur le dos de l’éléphant, brandissant des instructions, croyant que vous contrôlez la direction, que tout est sous votre main.

Mais en réalité, c’est l’éléphant qui nage dans l’eau, c’est l’éléphant qui ouvre la voie.

Nous sommes fiers de nous croire maîtres, mais nous oublions que nous ne sommes que des chanceux qui ont monté une bête puissante.

Ce n’est pas que je suis devenu plus fort, c’est que j’ai soudainement réveillé une créature bien plus grande que moi, que je ne peux pas vraiment maîtriser.

Quatre｜Tonnerre

Puisque c’est du vol de feu, le tonnerre de Zeus finira par tomber.

Je le pensais vaguement avant.

Jusqu’à ce qu’Anthropic présente Mythos, disant que c’était une étape cruciale dans la sécurité.

C’est la première fois que je me suis dit que ce n’était peut-être pas une simple métaphore. Parce qu’à partir de ce moment, ce dont on parle n’est plus seulement l’efficacité, mais si cette chose va faire sauter la barrière pour trouver des failles et attaquer les systèmes.

Ensuite, le pont interchaines de KelpDAO dans la crypto a eu un problème, un attaquant a créé une multitude de « collatéraux d’air » et a emprunté plus de deux milliards de dollars en ETH via Aave.

Je ne sais pas si cela a un lien avec Mythos.

Mais le moment est effrayant : est-ce que la barrière pour faire du sabotage ou trouver des failles a été complètement brisée ?

Est-ce que ces incidents vont devenir de plus en plus fréquents ?

Cinq｜Cendres

Quand le feu tombe sur le monde, la première chose n’est pas de se réchauffer.

C’est de brûler.

Les livres d’histoire aiment embellir, ne racontent que la prospérité du nouveau monde, et taisent les hurlements lors de l’effondrement de l’ancien.

Il y a 66 millions d’années, l’extinction massive des dinosaures n’était pas une évolution, c’était une destruction impitoyable du monde entier ;

Aujourd’hui, quand on parle de la révolution industrielle, on parle de machines à vapeur, de grandes usines et de progrès de la productivité, mais pour ceux qui vivaient à l’époque, ce qu’ils ressentaient en premier n’était pas la prospérité, mais l’expulsion de leurs terres, le remplacement par des machines, et une « réévaluation » impitoyable.

La nouvelle ère ne vient jamais sur des fleurs, elle marche toujours sur des ruines.

Donc, la veille de la révolution de l’IA, ce n’est pas un printemps fleuri.

Même le FMI a sorti des chiffres froids : plus de 40 % des emplois dans le monde seront affectés par l’IA.

Ce qui annonce une purge silencieuse.

Ce qui fait le plus peur, ce n’est pas que votre emploi soit soudainement détruit, mais que tout soit « effacé » — vous vous réveillez, réalisant que votre carrière, votre expertise, tout ce que vous avez construit, peut être réduit en cendres face à ce feu.

Vous n’avez rien fait de mal, vous travaillez dur chaque jour, mais vous êtes simplement expulsé de la scène par l’époque, sans même un mot d’excuse.

Vous êtes éliminé, peu importe ce que vous faites.

Six｜Alignement

Même en étant conscient de tout cela, je reste résolument du côté de Prométhée.

Parce que se faire brûler par le feu est effrayant, mais que la flamme est toujours monopolisée par une minorité de « dieux », c’est mille fois plus terrifiant.

Imaginez si ce « système d’autorisation » capable de réécrire les fondements de la civilisation, reste à jamais enfermé dans les centres de données des géants de la Silicon Valley, au service d’une minorité de capitalistes et de puissants, cette « purge silencieuse » ne s’arrêtera jamais.

Elle deviendra plus arrogante, plus désespérée. Nous ne pouvons pas permettre que seuls les « prêtres » en haut de la hiérarchie contrôlent le feu.

Si le feu ne reste qu’entre les mains des prêtres, les gens ordinaires seront toujours écrasés, remplacés, expulsés de la scène, sans même comprendre ce qui leur arrive. Sans la moindre arme pour se défendre, ils seront simplement massacrés dans un gouffre technologique.

Aujourd’hui, Prométhée a jeté ce feu dans la foule sans précaution.

Zeus, bien sûr, sera furieux. Son tonnerre finira par tomber, et ces industries bouleversées, ces emplois brisés, ces failles systémiques hors de contrôle seront la punition des dieux, qui finiront par s’abattre sans discrimination sur chacun de nous.

Mais c’est aussi pour cela que tu ne peux pas attendre passivement sous la tempête, les bras croisés.

Alors, inscris-toi vite à ChatGPT, utilise Codex pour ton code, intègre Claude Cowork dans ton flux de travail, et installe ton petit crabe.

Même si tu sais que ce que tu échanges pour quelques dizaines de dollars par mois n’est qu’une bride extrêmement dangereuse, prête à te faire tomber à tout moment, tu dois la tenir fermement, te forçant à revenir à la table.

Puisque le feu est déjà tombé sur le monde, ce que tu dois faire, ce n’est pas fuir, mais saisir rapidement ta propre part.

Sept｜Mythe

Beaucoup d’années plus tard, les modèles et leurs noms seront peut-être oubliés.

Mais je me souviendrai toujours de ce moment où mon ami m’a demandé si c’était « utile ».

Et la réponse dans mon cœur n’est pas « utile ».

C’est une autre phrase : le mythe n’est pas fini, Prométhée a vraiment encore volé le feu.