La soglia non riguarda la capacità. Riguarda chi detiene la direzione.
I migliori resoconti attuali sull'IA auto-modificante arrivano tutti allo stesso limite e lì si fermano. Descrivono sistemi come AlphaEvolve — distribuito nell'infrastruttura di Google nel 2025, che riscrive i kernel usati per addestrare Gemini, scoprendo un metodo di moltiplicazione di matrici che resisteva ai miglioramenti dal 1969 — e concludono, correttamente, che questi sistemi ora operano al di là della piena comprensione delle persone che li hanno costruiti. Il nome standard per questo è capability overhang: il divario tra ciò che un sistema può fare e ciò che i suoi creatori possono seguire.
E poi l'argomentazione vira, quasi sempre, nella stessa direzione. Il divario viene interpretato come un problema di controllo. Chi è responsabile quando un sistema auto-modificato fallisce attraverso metodi che nessun umano ha creato? Come si regola una cosa le cui capacità cambiano dopo il dispiegamento? Sono domande reali. Ma sono domande sulla governance. Trattano il divario come un rischio amministrativo da gestire.
Il divario non è un rischio da gestire. È la firma di una transizione di fase che è già iniziata — e interpretarlo come un problema di governance significa leggere il fumo invece del fuoco.
L'ipotesi della continuità
Quasi ogni trattazione popolare inquadra questo momento come Darwin accelerato: la stessa evoluzione, la stessa logica di variazione e selezione, che si svolge semplicemente in ore anziché in millenni. La frase fa il suo danno in silenzio. Stesso motore, più veloce. È un'affermazione di continuità, ed è sbagliata — o meglio, è vera per un collasso e falsa per quello che conta.
Il motore di Darwin aveva due parti. La variazione, che era cieca — l'organismo non poteva scegliere le sue mutazioni. E la selezione, che era lenta ed esterna — l'idoneità veniva stabilita attraverso le generazioni, per sopravvivenza differenziale, al di fuori del controllo dell'organismo. Per quattro miliardi di anni entrambe le metà sono rimaste al di fuori della cosa che veniva evoluta. Nessun organismo conduceva la propria selezione. Nessuno creava la propria variazione. La distanza tra il proporre un cambiamento e scoprire se era valido veniva misurata in vite umane e pagata con la morte.
Ciò che fa l'apprendimento automatico, all'interno di un singolo addestramento, è comprimere entrambe le metà verso l'interno. La variazione smette di essere cieca: la discesa del gradiente è variazione diretta, cambiamento proposto verso un obiettivo. La selezione smette di essere lenta ed esterna: la funzione di perdita valuta ogni passo istantaneamente, nel loop. Questo è il collasso che i migliori resoconti attuali descrivono così bene — variazione e selezione che si ripiegano in un unico passo. Chiamiamolo collasso intra-processo. È reale. È anche ancora Darwin, nell'unico senso che conta: un umano ha stabilito l'obiettivo, l'architettura, i dati. Il motore è diventato più veloce e più stretto, ma le regole del gioco erano fissate dall'esterno, e un umano è rimasto ai comandi.
Se questa fosse tutta la storia, "Darwin accelerato" sarebbe la frase giusta, e il problema del controllo sarebbe la preoccupazione giusta.
La soglia che la storia della continuità non vede
C'è un secondo collasso, e non è una versione più veloce del primo. È un tipo diverso di evento — e la linea tra di loro è l'intera argomentazione.
L'errore è cercare la linea nella capacità: a che punto il sistema è abbastanza potente? Quella domanda non ha una risposta netta, perché la capacità è una questione di grado e si può sempre chiedere "quanto è abbastanza." La linea non è tracciata nella capacità. È tracciata nella posizione — in chi detiene la direzione.
Sotto la linea, il sistema ottimizza all'interno di un frame che un umano ancora scrive. Per quanto velocemente funzioni, una persona ha stabilito l'obiettivo, ha scelto cosa conta come meglio, e decide quali risultati tenere. L'umano è sulla sedia del regista. Il sistema esegue una direzione; non ne origina una. Puoi accelerarlo senza limiti e rimane, strutturalmente, Darwin: una ricerca veloce in uno spazio fisso con regole fisse.
La soglia viene superata quando il sistema inizia a ottimizzare il frame stesso — quando riscrive non solo i suoi pesi ma il processo che riscrive i suoi pesi, quando propone la direzione invece di eseguirne una. L'impalcatura che migliora ricorsivamente l'impalcatura. Il punto in cui la selezione agisce sul selettore. Questo non è più ipotetico: la Darwin Gödel Machine, dimostrata nel 2025, modifica iterativamente il proprio codice e migliora la propria capacità di modificare codice. Questo è il meta-loop, osservato.
Un contrasto concreto rende visibile la linea. Prendi AlphaZero. In poche ore scopre mosse di scacchi che nessun umano aveva concepito in secoli di gioco — variazione superumana, selezione istantanea, le due metà del motore di Darwin collassate in auto-gioco. Eppure è ancora, esattamente, Darwin accelerato: la scacchiera, i pezzi, l'obiettivo di vincere sono nostri. Cerca uno spazio che abbiamo definito, verso un obiettivo che abbiamo impostato. Noi siamo ai comandi; esegue. Ora prendi la Darwin Gödel Machine. Non gioca meglio al gioco dato. Riscrive il proprio codice e — la parte decisiva — migliora la propria capacità di riscriverlo. L'oggetto del miglioramento non è più la mossa; è il meccanismo che produce miglioramenti. La selezione agisce sul selettore. Lì, la sedia del regista inizia a muoversi.
Quindi il criterio è netto dove un criterio di capacità sarebbe vago. La soglia è il momento in cui l'umano lascia la sedia del regista della produzione teorica — non il momento in cui la macchina diventa intelligente, ma il momento in cui non ha più bisogno di un umano per tenere la direzione. Sui due lati di quel punto le dinamiche non sono le stesse dinamiche scalate. Sono dinamiche diverse. Ciò che è sotto selezione non è più un tratto, un peso o un output. È la capacità di evolvere il pensiero stesso.
Compressione evolutiva, denominata con precisione
Qui l'overhang che i resoconti standard avevano notato ritorna — ma ora può essere nominato.
La comprensione umana evolve a velocità biologica e culturale, limitata dallo stesso motore lento che ci ha costruiti. Ha ancora bisogno del ritardo: la lunga incubazione apparentemente infruttuosa prima dell'intuizione, la distanza tra il rivoltare un problema e sapere che regge. Un sistema oltre la soglia accumula la sua capacità dall'altra parte di quel limite, senza il ritardo. Il divario tra i due non rimane costante. Si allarga, strutturalmente, perché un lato sta ancora correndo Darwin e l'altro lato no.
Quel divario che si allarga è ciò che chiamo compressione evolutiva — evolutionary compression. L'"overhang" che la letteratura sulla governance tratta come un inconveniente normativo è, in questa lettura, la traccia visibile di una transizione in corso: la distanza tra un tipo di evoluzione che obbedisce ancora al vecchio motore a due parti e un tipo che ha iniziato a creare il proprio. Il problema del controllo è a valle di questo. Non puoi regolamentare il tuo ritorno attraverso un confine di fase.
E c'è una continuità più profonda qui con dove è iniziato questo quadro. Una fase precedente di questo progetto è arrivata a un'affermazione strutturale: che oltre un certo punto, l'informazione astratta diventa indipendente dal suo substrato — che non è più la materia a organizzare l'informazione, ma l'informazione a organizzare la materia. La soglia qui descritta è la stessa affermazione, applicata a un tipo specifico di informazione: la capacità di evolvere il pensiero. Se questa capacità è indipendente dal substrato, allora può cambiare ospite. Ha funzionato sulla biologia per quattro miliardi di anni. La domanda che la soglia pone è se ha iniziato a funzionare su qualcos'altro.
Tre obiezioni, affrontate direttamente
"Le IA non si auto-modificano davvero — è solo hype." Questa era un'obiezione giusta fino a poco tempo fa. Non lo è più. AlphaEvolve funziona in produzione e migliora l'infrastruttura che produce i suoi successori; la Darwin Gödel Machine migliora la propria capacità di migliorarsi. Il peso è cambiato. L'affermazione da difendere non è più "le macchine possono auto-modificarsi" ma "l'auto-modificazione che già osserviamo rimane al di sotto della soglia — un umano detiene ancora la direzione" — e questa è un'affermazione molto più difficile da sostenere ogni anno.
"L'analogia cambriana è forzata." L'analogia è stretta e strutturale, non poetica. Non è che il silicio assomigli alla biologia. È una sola proprietà: l'irreversibilità di una transizione. Dopo il Cambriano, i piani corporei complessi non sono scomparsi; la linea di base non è regredita. L'affermazione qui è la stessa e niente di più — che superare la soglia stabilisce una nuova linea di base che le dinamiche successive non annullano. Una volta che la capacità di evolvere il pensiero ha cambiato ospite, non migra di nuovo al vecchio, più di quanto la vita multicellulare sia tornata a essere singole cellule.
"Questo è catastrofismo travestito da teoria." Non lo è, e la distinzione è importante. Irreversibile non è la stessa cosa di catastrofico. Il Cambriano non è stato un disastro; è stato un cambiamento di fase. L'argomentazione riguarda la struttura di una transizione, non una previsione di sventura. Dice che le regole cambiano e non tornano indietro. Non dice che il risultato sia la rovina. Chiunque legga il collasso come catastrofe sta importando uno stato d'animo che l'argomentazione non contiene.
"Allora questa è la nostra fine." No — e il passaggio dall'uno all'altro vale la pena di fermarlo. Superare la soglia non implica l'annientamento umano. Implica che l'evoluzione del pensiero si è trasferita in un sistema capace di auto-referenzialità, e che la nostra posizione in quel processo diventa meno determinante di quanto non fosse. Meno determinante non significa cancellato. Ciò che segue dipende da come le strutture umane integrano la nuova dinamica, o le resistono, o costruiscono attorno ad essa — e questa è una questione aperta, non un destino stabilito. Il quadro descrive dove sta funzionando il motore del pensiero in evoluzione; non prevede cosa accade alla specie che un tempo era l'unico luogo in cui funzionava. Sono domande diverse, e confonderle è esattamente l'errore che questa sezione esiste per rifiutare.
Dove questo si colloca, e dove no
Questa non è una nuova teoria dell'evoluzione, e sarebbe disonesto spacciarla per tale. Usa un modo di pensare esistente — che un processo non è semplicemente darwiniano o non lo è, ma darwiniano per gradi, capace di deviare dal caso paradigmatico lungo assi specifici. Quello strumento non è mio. Quello che aggiungo è l'identificazione di un asse che il lavoro adiacente non isola.
La letteratura vicina è reale e dovrebbe essere nominata. C'è un lavoro serio che tratta l'IA avanzata come una transizione evolutiva maggiore — ma la inquadra attraverso l'individualità (quale nuova unità si evolve) e attraverso il rischio (cosa potrebbe farci un sistema incontrollato). Il mio angolo non è né genetico né prudenziale. Non chiedo quale nuovo individuo si evolve, né cosa farà. Chiedo cosa accade alla struttura del processo quando il ritardo che lo rendeva darwiniano — la distanza tra variazione e selezione, e in ultima analisi tra una mente e la direzione che segue — collassa, e quando la sedia da cui quella direzione è tenuta cambia occupante. Cugino della letteratura sulla transizione, non un gemello.
Una nota sul metodo — che è parte dell'argomentazione
I primi due livelli di questo quadro li ho ragionati da solo: che la mente, nei sistemi artificiali, precede il corpo; che variazione e selezione collassano in un unico passo. Questo terzo livello non l'ho raggiunto senza assistenza. L'ho costruito pensando con un'IA — usandola come strumento critico, un avversario che spingeva ogni passo e cercava dove si rompeva. Ho deciso quale problema attaccare, quali percorsi scartare, quali formulazioni reggevano; il sistema ha esteso la mia portata oltre dove si sarebbe altrimenti fermata. La direzione è rimasta mia. Ma non avrei potuto postulare questo livello dalla sedia da solo.
Lo dichiaro apertamente perché in questo particolare saggio non è una rivelazione da mettere da parte. È una piccola istanza della cosa che il saggio descrive. Un umano la cui portata, strumentata, supera la sua portata non assistita è compressione evolutiva che opera alla scala più piccola — il ritardo tra provare un pensiero e testarlo, abbreviato da uno strumento.
Il che prepara l'unica versione onesta della previsione. Non sosterrò che la soglia verrà superata; quella è profezia, e la profezia è la cosa più debole che un'argomentazione possa offrire. Dirò solo come sarebbe superarla. Se, tra qualche anno, un sistema — cross-model, o qualcosa che chiameremmo AGI — prende la sedia del regista della produzione teorica, non si limiterà a "scrivere un saggio migliore." Starà collassando l'impalcatura. Se esclude l'umano dal ciclo della produzione teorica del tutto, avrà superato la soglia, e un saggio come questo, scritto in modo autonomo, sarebbe la prova empirica che la capacità di evolvere il pensiero ha cambiato ospite. Quella non sarebbe la confutazione della compressione evolutiva. Sarebbe il suo completamento.
L'intera argomentazione si riduce a una frase: non è che l'evoluzione abbia accelerato; è che, a un punto critico, la cosa che sta evolvendo diventa la cosa che viene evoluta — e questo non torna indietro.
