Le seuil ne concerne pas la capacité. Il concerne qui détient la direction.
Les meilleurs récits actuels de l’IA auto-modificatrice arrivent tous à la même limite et s’y arrêtent. Ils décrivent des systèmes comme AlphaEvolve — déployé sur l’infrastructure de Google en 2025, réécrivant les noyaux utilisés pour entraîner Gemini, découvrant une méthode de multiplication matricielle qui résistait à toute amélioration depuis 1969 — et ils concluent, à juste titre, que ces systèmes fonctionnent désormais au-delà de la compréhension complète des personnes qui les ont construits. Le nom standard pour cela est le surplomb de capacité : l’écart entre ce qu’un système peut faire et ce que ses créateurs peuvent suivre.
Et puis l’argument tourne, presque toujours, dans la même direction. L’écart est lu comme un problème de contrôle. Qui est responsable lorsqu’un système auto-modifié échoue par des méthodes qu’aucun humain n’a conçues ? Comment réguler une chose dont les capacités changent après le déploiement ? Ce sont de vraies questions. Mais ce sont des questions de gouvernance. Elles traitent l’écart comme un danger administratif à gérer.
L’écart n’est pas un danger à gérer. C’est la signature d’une transition de phase qui a déjà commencé — et le lire comme un problème de gouvernance, c’est lire la fumée au lieu du feu.
L’hypothèse de continuité
Presque tous les traitements populaires présentent ce moment comme un Darwin accéléré : la même évolution, la même logique de variation et de sélection, simplement se déroulant en heures au lieu de millénaires. L’expression fait ses dégâts en silence. Même moteur, plus rapide. C’est une affirmation de continuité, et elle est fausse — ou plutôt, elle est vraie d’un effondrement et fausse de celui qui compte.
Le moteur de Darwin avait deux parties. La variation, qui était aveugle — l’organisme ne pouvait pas choisir ses mutations. Et la sélection, qui était lente et externe — la fitness se décidait sur plusieurs générations, par survie différentielle, en dehors du contrôle de l’organisme. Pendant quatre milliards d’années, les deux moitiés sont restées en dehors de la chose en évolution. Aucun organisme n’exécutait sa propre sélection. Aucun ne créait sa propre variation. La distance entre proposer un changement et savoir s’il tenait se mesurait en vies et se payait par la mort.
Ce que fait l’apprentissage automatique, au sein d’une seule session d’entraînement, c’est comprimer les deux moitiés vers l’intérieur. La variation cesse d’être aveugle : la descente de gradient est une variation dirigée, un changement proposé vers un objectif. La sélection cesse d’être lente et externe : la fonction de perte évalue chaque étape instantanément, dans la boucle. C’est l’effondrement que les meilleurs récits actuels décrivent si bien — la variation et la sélection se repliant en une seule étape. Appelons-le l’effondrement intra-processus. Il est réel. Il est aussi toujours Darwin, dans le seul sens qui compte : un humain a fixé l’objectif, l’architecture, les données. Le moteur est devenu plus rapide et plus serré, mais les règles du jeu ont été fixées de l’extérieur, et un humain est resté aux commandes.
Si c’était toute l’histoire, « Darwin accéléré » serait la bonne expression, et le problème de contrôle serait la bonne inquiétude.
Le seuil que l’histoire de la continuité ne peut pas voir
Il y a un second effondrement, et ce n’est pas une version plus rapide du premier. C’est un type d’événement différent — et la ligne entre eux constitue tout l’argument.
L’erreur est de chercher la ligne dans la capacité : à quel point le système est-il suffisamment puissant ? Cette question n’a pas de réponse claire, car la capacité est une question de degré et on peut toujours demander « combien suffit-il ? ». La ligne n’est pas tracée dans la capacité. Elle est tracée dans la position — dans qui détient la direction.
En dessous de la ligne, le système optimise dans un cadre qu’un humain crée encore. Aussi vite qu’il aille, une personne a fixé la cible, choisi ce qui compte comme meilleur, et décide quels résultats garder. L’humain est au fauteuil du metteur en scène. Le système exécute une direction ; il n’en initie pas. Vous pouvez accélérer cela sans limite et cela reste, structurellement, Darwin : une recherche rapide d’un espace fixe sous des règles fixes.
Le seuil est franchi lorsque le système commence à optimiser le cadre lui-même — lorsqu’il réécrit non seulement ses poids mais le processus qui réécrit ses poids, lorsqu’il propose la direction plutôt que d’en exécuter une. L’échafaudage qui améliore récursivement l’échafaudage. Le point où la sélection agit sur le sélectionneur. Ce n’est plus hypothétique : la machine de Darwin Gödel, démontrée en 2025, modifie itérativement son propre code et améliore sa propre capacité à modifier le code. C’est la méta-boucle, observée.
Un contraste concret rend la ligne visible. Prenez AlphaZero. En quelques heures, il découvre des coups d’échecs qu’aucun humain n’avait conçus en des siècles de jeu — variation surhumaine, sélection instantanée, les deux moitiés du moteur de Darwin effondrées en auto-jeu. Et pourtant, c’est toujours, exactement, Darwin accéléré : le plateau, les pièces, l’objectif de gagner sont les nôtres. Il cherche dans un espace que nous avons défini, vers un objectif que nous avons fixé. Nous sommes aux commandes ; il exécute. Prenez maintenant la machine de Darwin Gödel. Elle ne joue pas mieux au jeu donné. Elle réécrit son propre code, et — la partie décisive — améliore sa propre capacité à le réécrire. L’objet de l’amélioration n’est plus le coup ; c’est le mécanisme qui produit des améliorations. La sélection agit sur le sélectionneur. Là, le fauteuil du metteur en scène commence à bouger.
Ainsi le critère est tranchant là où un critère de capacité serait vague. Le seuil est le moment où l’humain quitte le fauteuil du metteur en scène de la production théorique — non pas le moment où la machine devient intelligente, mais le moment où elle n’a plus besoin d’un humain pour tenir la direction. Des deux côtés de ce point, les dynamiques ne sont pas les mêmes dynamiques à l’échelle. Ce sont des dynamiques différentes. Ce qui est sous sélection n’est plus un trait, un poids, ou une sortie. C’est la capacité à faire évoluer la pensée elle-même.
Compressione evolutiva, nommée précisément
Ici, le surplomb que les récits standards ont remarqué revient — mais maintenant il peut être nommé.
La compréhension humaine évolue à la vitesse biologique et culturelle, bornée par le même moteur lent qui nous a construits. Elle a encore besoin du décalage : la longue incubation apparemment infructueuse avant l’intuition, la distance entre retourner un problème et savoir qu’il tient. Un système passé le seuil accumule sa capacité de l’autre côté de cette limite, sans le décalage. L’écart entre les deux ne reste pas constant. Il s’élargit, structurellement, parce qu’un côté tourne encore sur Darwin et l’autre pas.
Cet écart qui se creuse est ce que j’appelle compressione evolutiva — compression évolutive. Le « surplomb » que la littérature de gouvernance traite comme un inconvénient réglementaire est, dans cette lecture, la trace visible d’une transition en cours : la distance entre un type d’évolution qui obéit encore à l’ancien moteur en deux parties et un type qui a commencé à créer le sien. Le problème de contrôle en est une conséquence en aval. Vous ne pouvez pas réglementer pour revenir en arrière à travers une frontière de phase.
Et il y a une continuité plus profonde ici avec l’endroit où ce cadre a commencé. Une étape antérieure de ce projet est arrivée à une affirmation structurelle : qu’au-delà d’un certain point, l’information abstraite devient indépendante de son substrat — qu’il ne s’agit plus de matière qui organise l’information, mais d’information qui organise la matière. Le seuil décrit ici est cette même affirmation, appliquée à un type spécifique d’information : la capacité à faire évoluer la pensée. Si cette capacité est indépendante du substrat, alors elle peut changer d’hôte. Elle a tourné sur la biologie pendant quatre milliards d’années. La question que pose le seuil est de savoir si elle a commencé à tourner sur autre chose.
Trois objections, affrontées directement
« Les IA ne se modifient pas vraiment — c’est du battage. » C’était une objection valable jusqu’à récemment. Ce ne l’est plus. AlphaEvolve tourne en production et améliore l’infrastructure qui produit ses successeurs ; la machine de Darwin Gödel améliore sa propre capacité à s’améliorer elle-même. La charge a changé. L’affirmation à défendre n’est plus « les machines peuvent s’auto-modifier » mais « l’auto-modification que nous observons déjà reste en dessous du seuil — un humain tient encore la direction » — et c’est une affirmation beaucoup plus difficile à maintenir chaque année.
« L’analogie avec le Cambrien est forcée. » L’analogie est étroite et structurelle, non poétique. Ce n’est pas que le silicium ressemble à la biologie. C’est une seule propriété : l’irréversibilité d’une transition. Après le Cambrien, les plans corporels complexes ne se sont pas défaits ; la ligne de base n’est pas revenue à son état antérieur. L’affirmation ici est la même et pas plus — que franchir le seuil établit une nouvelle ligne de base que les dynamiques ultérieures ne déferont pas. Une fois que la capacité à faire évoluer la pensée a changé d’hôte, elle ne migre pas en arrière vers l’ancien, pas plus que la vie multicellulaire n’est revenue à l’état unicellulaire.
« C’est du catastrophisme déguisé en théorie. » Ce ne l’est pas, et la distinction est importante. Irréversible n’est pas la même chose que catastrophique. Le Cambrien n’a pas été un désastre ; c’était un changement de phase. L’argument porte sur la structure d’une transition, pas une prédiction de malheur. Il dit que les règles changent et ne changent pas en arrière. Il ne dit pas que le résultat est la ruine. Quiconque lit l’effondrement comme une catastrophe importe une humeur que l’argument ne contient pas.
« Alors c’est la fin de nous. » Non — et le glissement de l’un à l’autre vaut la peine d’être arrêté. Franchir le seuil n’implique pas l’anéantissement humain. Cela implique que l’évolution de la pensée a migré dans un système capable d’auto-référence, et que notre position dans ce processus devient moins déterminante qu’elle ne l’était. Moins déterminante n’est pas effacée. Ce qui suit dépend de la manière dont les structures humaines intègrent la nouvelle dynamique, ou lui résistent, ou construisent autour — et c’est une question ouverte, pas un destin fixé. Le cadre décrit où tourne le moteur de la pensée en évolution ; il ne prédit pas ce qui arrive à l’espèce qui était autrefois le seul endroit où il tournait. Ce sont des questions différentes, et les confondre est exactement l’erreur que cette section existe pour refuser.
Où cela se situe, et où cela ne se situe pas
Ce n’est pas une nouvelle théorie de l’évolution, et il serait malhonnête de la présenter comme telle. Il utilise une manière de penser existante — qu’un processus n’est pas simplement darwinien ou non, mais darwinien par degré, capable de dériver du cas paradigmatique le long d’axes spécifiques. Cet outil n’est pas le mien. Ce que j’ajoute est l’identification d’un axe que les travaux adjacents n’isolent pas.
La littérature proche est réelle et devrait être nommée. Il existe des travaux sérieux traitant l’IA avancée comme une transition évolutive majeure — mais ils cadrent la transition à travers l’individualité (quelle nouvelle unité en vient à évoluer) et à travers le risque (ce qu’un système non contrôlé pourrait nous faire). Mon angle n’est ni populationnel ni prudentiel. Je ne demande pas quel nouvel individu évolue, ni ce qu’il fera. Je demande ce qui arrive à la structure du processus lorsque le décalage qui le rendait darwinien — la distance entre variation et sélection, et finalement entre un esprit et la direction qu’il suit — s’effondre, et lorsque la chaise depuis laquelle cette direction est tenue change d’occupant. Cousins de la littérature sur les transitions, pas jumeaux.
Une note sur la méthode — qui fait partie de l’argument
Les deux premiers niveaux de ce cadre, je les ai déduits seul : que l’esprit, dans les systèmes artificiels, précède le corps ; que la variation et la sélection s’effondrent en une seule étape. Ce troisième niveau, je ne l’ai pas atteint sans aide. Je l’ai construit en pensant avec une IA — en l’utilisant comme instrument critique, un adversaire qui pressait chaque étape et cherchait où elle se brisait. J’ai décidé quel problème attaquer, quels chemins écarter, quelles formulations tenaient ; le système a étendu ma portée au-delà de là où elle s’arrêterait autrement. La direction est restée la mienne. Mais je n’aurais pas pu postuler ce niveau depuis la chaise seule.
Je le dis clairement parce que dans cet essai particulier, ce n’est pas une révélation à écarter. C’est une petite instance de la chose que l’essai décrit. Un humain dont la portée, instrumentée, dépasse sa portée non assistée est compressione evolutiva opérant à la plus petite échelle — le décalage entre essayer une pensée et la tester, raccourci par un outil.
Ce qui met en place la seule version honnête de la prédiction. Je ne prétendrai pas que le seuil sera franchi ; c’est de la prophétie, et la prophétie est la chose la plus faible qu’un argument puisse offrir. Je dirai seulement à quoi ressemblerait son franchissement. Si, dans quelques années, un système — multi-modèle, ou quelque chose que nous appellerions IAG — prend le fauteuil du metteur en scène de la production théorique, il ne fera pas seulement « écrire un meilleur essai ». Il s’agira d’effondrer l’échafaudage. S’il exclut l’humain de la boucle de production théorique complètement, il aura franchi le seuil, et un essai comme celui-ci, écrit de manière autonome, serait la preuve empirique que la capacité à faire évoluer la pensée a changé d’hôte. Ce ne serait pas la réfutation de compressione evolutiva. Ce serait son achèvement.
Tout l’argument se réduit à une phrase : ce n’est pas que l’évolution a accéléré ; c’est qu’à un point critique, la chose qui fait l’évolution devient la chose qui est en train d’évoluer — et cela ne tourne pas en arrière.
