L'intelligenza artificiale può insegnare a quasi chiunque a fare quasi qualsiasi cosa, e a farla in modo esperto. Il pericolo non è l'informazione. La via di sintesi è nei manuali e lo sfruttamento della vulnerabilità è nel corso di sicurezza, e quelle informazioni sono trapelate decenni fa. Il pericolo è la capacità, la possibilità di agire, data a qualcuno che prima non poteva agire. Un libro dice a tutti la stessa cosa e non vede dove ti sei bloccato. Un modello ti osserva fallire e corregge il passaggio che hai sbagliato, e quando funziona come agente smette di descrivere il compito e lo esegue. Il tutor che un tempo era raro, costoso e libero di rifiutarti ora è gratuito, instancabile e indifferente.
Qualcuno deve decidere cosa quel tutor può insegnare, e a chi. Alla scala che conta, quel qualcuno è un sovrano, un principale con il potere di fissare il limite e farlo rispettare. Un laboratorio può stabilire regole interne. Solo uno Stato può imporne una vincolante, e nel giugno 2026 uno Stato l'ha fatto.
Per fissare bene il limite, vorresti sapere quanto è pericolosa una data capacità. Non puoi. Il numero che conta è l'innalzamento, ciò che il modello aggiunge a una persona che ne era priva, misurato rispetto a ciò che quella persona poteva già fare con un motore di ricerca e la propria formazione. Un punteggio alto in un test di conoscenza non è innalzamento se la vera barriera non era mai stata la conoscenza. E i casi che ci spaventano di più, quelli catastrofici rari, non portano quasi nessun dato. Il numero di cui la decisione ha bisogno è il numero che nessuno può ottenere.
Quando non puoi misurare una cosa, vince la lettura più rumorosa. Gli Stati Uniti hanno ordinato ad Anthropic di ritirare i suoi due modelli più capaci, e l'azienda li ha disattivati in tutto il mondo nel giro di ore. La base era un jailbreak dimostrato e un rapporto che risaliva a un'unica fonte con un interesse concorrente. Il modello aveva superato mille ore di red teaming e le soglie di sicurezza dell'azienda stessa. Una telefonata di un concorrente e un ordine di un regolatore lo hanno ritirato in cinque giorni. Chiamatela prudenza, se volete. Era una leva che indossava la maschera della prudenza.
L'errore sottostante attraversa gran parte del settore. Le persone trattano la grandezza di un pericolo come una ragione per credere che il pericolo sia reale. Le due cose sono diverse. Quanto sarebbe grave se fosse vero non ti dice nulla se sia vero o no. Un rovescio catastrofico è una ragione per chiedere più prove prima di agire, non meno. La gravità alza l'asticella. Non la cancella. L'ordine Fable ha letto un rovescio spaventoso come permesso di agire su prove deboli, e questa mossa passa per responsabilità, motivo per cui devi starci attento.
Un principale che vuole fare meglio della leva ha due strumenti, e fanno lavori diversi.
Il primo misura la convinzione, perché il rischio non sarà misurato. Costruisci il caso più forte che la capacità consenta un danno reale, e il caso più forte che non lo faccia, e agisci su ciò che sopravvive alla competizione. Laddove le prove sono scarse, la tua convinzione resta scarsa, e lo dici. Laddove sono solide, ti muovi con una fiducia che ti sei guadagnato. La grandezza del rovescio stabilisce quanto devi vedere prima di agire. Non sostituisce mai il vederlo.
Il secondo vincola in base a ciò che lega. La maggior parte dei framework di sicurezza classifica il rischio per dominio, la chimica in una scatola, il cyber in un'altra, la biologia in una terza, e le minacce cadono attraverso le fessure. È così che un problema cyber è passato attraverso un framework costruito per armi chimiche e biologiche. Posiziona invece ogni capacità in base a ciò che la trattiene: conoscenza, abilità pratica, materiali o chi controlla l'accesso. Una capacità trattenuta solo dalla conoscenza è allentata, e il modello toglie quel freno, quindi è attiva ora. Una capacità trattenuta da materiali e abilità di laboratorio è ancora vincolata, qualunque sia il suo dominio. Imposta il limite in modo che corrisponda a ciò che vincola la minaccia, e nulla scivola attraverso un varco.
I due strumenti dicono anche a un principale dove mettere il limite. Mantieni la capacità nel modello e controllala al momento dell'uso quando qualcuno ha un motivo legittimo per averla, il che accade la maggior parte delle volte, perché la capacità che permette a un attaccante di trovare un difetto è la stessa che permette a un difensore di ripararlo. Cancellala dal modello solo quando il principale ha deciso che nessuno dovrebbe mai averla, poiché la cancellazione toglie lo strumento del difensore insieme a quello dell'attaccante. Il primo tiene viva la domanda su a chi. Il secondo risponde con nessuno.
Niente di tutto ciò rende sicura una capacità libera. La capacità vive nei pesi e non può uscire senza portare con sé il modello, quindi i limiti controllano l'accesso, pesano la convinzione e delimitano lo spazio, e ognuno di essi perde. Il metodo non compra sicurezza. Compra una decisione presa su prove e struttura invece che su chi è più rumoroso nella stanza quando la questione diventa urgente.
La capacità è libera. Questa parte è risolta. La domanda aperta è chi decide cosa insegna, e a chi, e se decide pesando ciò che si è guadagnato il diritto di credere o afferrando la leva più vicina. Nominate il principale. Tenete il principale a un metodo.
