Come il laboratorio più intelligente del mondo ha spedito accidentalmente il prodotto sbagliato
Ho chiesto al modello pubblico più capace di Anthropic di modificare un saggio su Anthropic. Non ne ha mai avuto la possibilità. Ho allegato questa bozza e ho digitato sette parole innocue: "Riscrivi, rendilo ESPLOSIVO. Formatta per Twitter." L'app ha automaticamente spostato il compito da Fable 5 a Opus 4.8. La sua spiegazione è stata semplice: "Le salvaguardie di Fable hanno segnalato questo messaggio."
Per essere precisi, non si trattava di un normale limite di utilizzo. Fable non ha risposto e rifiutato. La salvaguardia di Anthropic ha intercettato la richiesta prima che il modello selezionato potesse rispondere e l'ha instradata verso un altro modello. Anthropic ha spiegato che è esattamente così che funziona il sistema: quando il classificatore di Fable blocca una richiesta, la richiesta viene inviata a Opus 4.8. L'azienda ha anche riconosciuto di aver deliberatamente ampliato il margine di sicurezza del classificatore, sapendo che il risultato sarebbe stato un maggior numero di falsi positivi su lavori innocui. (Anthropic
Non so perché la salvaguardia sia scattata, e non sostengo che Anthropic abbia censurato le critiche. Il fatto verificabile—e sufficientemente strano—è che una richiesta di modifica di routine è stata intercettata da una salvaguardia il cui stesso avviso parlava di falsi positivi in ambito legittimo di programmazione, cybersecurity e biologia. Era un'apertura quasi comicamente perfetta per un saggio sul team che ha creato quello che molti credono essere il sistema di IA più brillante del pianeta.
Questo saggio esamina cosa succede quando un sistema diventa così preoccupato per la performance delle sue singole parti da perdere di vista il risultato che l'intero sistema esiste per produrre. Il modello può essere brillante, la salvaguardia può operare esattamente come progettato, e la politica dei prezzi può avere perfettamente senso per le persone che l'hanno creata. Il lavoro dell'utente può comunque rimanere incompiuto.
Esempio A:
Ho chiesto a Fable 5 di modificare questo articolo. Le salvaguardie di Anthropic hanno segnalato la richiesta e l'hanno spostata su Opus 4.8.
Le Galline e le loro Uova
Nel 1982, il genetista della Purdue William Muir iniziò un insolito esperimento di allevamento con galline ovaiole. Muir voleva sapere cosa sarebbe successo se la produttività fosse stata selezionata a livello di gruppo piuttosto che di individuo. Invece di allevare solo dalle singole galline più produttive—una misura del puro output individuale—ha alloggiato galline imparentate insieme e ha selezionato interi gruppi familiari in base alla loro performance collettiva. La gabbia, piuttosto che la gallina isolata, divenne l'unità di selezione. (PubMed
Margaret Heffernan ha poi trasformato il programma tecnico di allevamento di Muir nella famosa storia della "supergallina". Per i manager, la sua storia divenne un monito inquietante: assumere i più forti e i più intelligenti non sempre produce il miglior risultato. Nel suo racconto, un gruppo di galline poteva rimanere un gruppo ordinario—niente supergalline. Un secondo gruppo è stato allevato ripetutamente dalle galline individuali più produttive; lei le chiama "le galline all-star". (Purdue Alumnus
I risultati furono drammatici. In sei generazioni, la mortalità annuale nel gruppo selezionato da Muir è scesa dal 68 percento all'8,8 percento. Nello stesso periodo, la produzione è aumentata da 91 a 237 uova per gallina alloggiata—2,6 volte la sua produzione originale. In un successivo confronto diretto condotto in gruppi di dodici, una linea commerciale allevata per la performance individuale ha subito l'89 percento di mortalità entro 58 settimane di età. Il gruppo selezionato da Muir ha subito solo il 20 percento di mortalità, mentre il controllo non selezionato ha subito il 54 percento. Nello stesso ambiente di gruppo, il gruppo selezionato ha superato le all-star commerciali in uova per gallina alloggiata, massa delle uova e uova per gallina al giorno. (PubMed
Nel frattempo, il gruppo di supergalline era logoro e sfinito. Nella versione dell'esperimento che ha reso famosa la storia, sei delle nove galline all-star erano morte e le restanti tre erano state spennate a zero. Il gruppo si era, quasi letteralmente, beccato a morte. (Purdue Alumnus
La lezione non è mai stata che la mediocrità batte il talento. La vera lezione è che il tuo output rifletterà ciò che premi. Seleziona solo per la performance individuale e potresti accidentalmente costruire una squadra più debole, perché i tratti che permettono a un individuo di dominare possono ridurre la produttività di tutti quelli intorno a lui. Seleziona gli individui in base a ciò che contribuiscono al gruppo, e qualità che scompaiono all'interno di una classifica individuale—compatibilità, moderazione, affidabilità e cooperazione—diventano improvvisamente visibili.
Il vero contributo di una gallina non è semplicemente quante uova può produrre. Include ciò che la sua presenza permette—o impedisce—alle altre galline di produrre. Muir non aveva abbandonato la produttività in favore dell'armonia. Aveva scoperto che, in un sistema sociale, l'armonia è parte della produttività. La vera unità di performance non era mai la gallina. Era il pollaio.
Ho imparato una versione di questa lezione duramente conquistata mentre gestivo la mia azienda di costruzioni. Per anni, l'aiuto affidabile era così difficile da trovare nel nostro particolare mestiere che un'all-star sembrava una salvezza. Ma le persone che sembravano all-star troppo spesso arrivavano con una tassa nascosta: eccezioni extra, gestione extra, morale danneggiato e attriti che il resto della squadra doveva assorbire.
Alla fine, ho smesso di chiedere solo "Quanto è brava questa persona nel suo mestiere?" e ho iniziato a chiedere "Cosa succede al lavoro di tutti gli altri quando questa persona si unisce al team?" La persona che sembra più forte non è sempre quella che rende effettivamente l'azienda più forte. Un artigiano maestro che rallenta ogni mestiere adiacente, consuma l'attenzione del caposquadra o allontana persone affidabili può essere impressionante isolatamente e costoso nella pratica. Un lavoratore più silenzioso che rende l'intera squadra più affidabile può contribuire ben più di quanto il suo output individuale riveli.
Il Superpollaio
Anthropic ha davvero assemblato un gruppo straordinario di galline molto intelligenti. Un'analisi di SignalFire del 2025, basata su dati pubblici sull'occupazione, stimava che gli ingegneri avevano otto volte più probabilità di passare da OpenAI ad Anthropic che viceversa e quasi undici volte più probabilità di trasferirsi lì da DeepMind. Stimava inoltre che l'80 percento dei dipendenti Anthropic assunti almeno due anni prima rimanesse fino alla fine del secondo anno, rispetto al 78 percento di DeepMind e al 67 percento di OpenAI. (SignalFire
Questi numeri non descrivono un'azienda in difficoltà nell'attrarre o trattenere talenti. Descrivono una calamita per all-star.
Questo non significa che i dipendenti di Anthropic si stiano beccando a morte. Sarebbe un'analogia banale, e i numeri sul talento non lo provano. Il pericolo più importante è più sottile. Quando un'azienda può mostrare credibilmente ricercatori eccezionali, una fidelizzazione insolitamente alta e modelli all'avanguardia, diventa facile trattare l'eccellenza nelle singole parti come prova che l'intero sistema funzioni.
L'esperimento di Muir dimostra perché questa inferenza non è attendibile. Il pericolo non è la brillantezza in sé. Il pericolo è misurare la performance a un livello troppo basso.
Il Modello Non è Il Prodotto
L'industria dell'IA è costruita attorno a supergalline: ricercatori famosi, modelli leader nei benchmark, pacchetti retributivi enormi e pagine di lancio piene di superlativi. Dentro il laboratorio, l'ordine gerarchico è ovvio. Fuori, vediamo solo le uova.
La Silicon Valley ha un evidente punto cieco: il tuo team può essere straordinario mentre il prodotto che hai costruito rimane frustrante, inaccessibile o inaffidabile.
Gli utenti di tutti i giorni non giudicano un modello dal suo team di galline di talento o dai suoi benchmark. Abbiamo solo il modello, l'app, le salvaguardie, i limiti di utilizzo, i prezzi, l'assistenza clienti.
Due Aziende, 74 Minuti di Distanza
Il 17 luglio, Anthropic ha risposto alla schiacciante domanda per Fable con un compromesso. A partire dal 20 luglio, gli abbonati Max e Team Premium avrebbero ricevuto Fable come parte dei loro piani, ma alla metà dei loro limiti normali. Gli utenti Pro e Team Standard avrebbero continuato ad accedere al modello tramite crediti di utilizzo e avrebbero ricevuto un credito una tantum di $100.
https://x.com/claudeai/status/2078302415804379218
Settantaquattro minuti dopo, Thibault Sottiaux di OpenAI ha annunciato che i limiti di utilizzo erano stati resettati per ogni utente pagante di Codex e ChatGPT Work.
Queste non erano offerte economicamente identiche. Anthropic stava stabilendo una politica di accesso continuo per un modello insolitamente intensivo dal punto di vista computazionale, mentre OpenAI concedeva un reset temporaneo dopo un lancio di prodotto difficile. Questa precisazione è importante. Il contrasto nella postura del prodotto era comunque difficile da non notare.
https://x.com/thsottiaux/status/2078320950488297917
OpenAI non agiva da una posizione di perfezione. Aveva recentemente mal gestito parti del suo stesso rollout desktop e ChatGPT Work, e Sottiaux aveva ammesso pubblicamente che l'azienda "non aveva fatto tutto perfettamente". Gli utenti avevano incontrato impostazioni di alta potenza di calcolo confuse, costi di utilizzo opachi e una riprogettazione che aveva interrotto i flussi di lavoro familiari. OpenAI ha risposto cambiando le impostazioni predefinite, promettendo di riparare l'interfaccia e resettando ripetutamente l'utilizzo in modo che i clienti potessero continuare a lavorare.
Un'organizzazione stava giustificando la scarsità.
L'altra stava producendo buona volontà.
OpenAI non è un gruppo di galline mediocri. È anche piena di talenti eccezionali, e ha commesso seri errori culturali e di prodotto propri. La differenza significativa in questo momento non è l'intelligenza, né nei modelli né nel pollaio. È ciò che il sistema sembra premiare quando arriva la pressione.
Al suo meglio, l'attuale postura del prodotto di OpenAI è costantemente ordinaria. Inizia con il compito dell'utente: Cosa sta cercando di realizzare questa persona? Cosa le impedisce di finire? Dov'è l'attrito, e quanto velocemente possiamo rimuoverlo? I reset non provano che OpenAI abbia risolto la cultura del prodotto, ma dimostra agli utenti l'istinto di assorbire parte del costo dei propri errori piuttosto che lasciare che siano loro a sopportarlo tutto.
La postura del prodotto di Anthropic troppo spesso comunica qualcosa di diverso: Abbiamo creato un'intelligenza straordinaria, e la nostra principale responsabilità è determinare quanta parte di essa tu possa accedere in sicurezza. Può essere una postura istituzionale coerente, ma non è incentrata sul cliente. Le uova d'oro sono impressionanti, ma non sfamano la famiglia quando il pollaio non ti permette di raccoglierle.
Un'azienda si organizza sempre più attorno al compito dell'utente. L'altra si organizza ancora attorno al rischio sistemico. Entrambe le aziende devono occuparsi di entrambe le questioni, ma la domanda che si pongono per prima modella il prodotto che alla fine costruiscono. La differenza non appare solo nelle dichiarazioni di intenti. Appare nell'instradamento, nei limiti, nei prezzi, nella comunicazione e nella volontà di riparare la fiducia quando il sistema fallisce.
L'intero pollaio
La cultura non è ciò che un'azienda dice di sé. La cultura è ciò che i suoi sistemi rendono ripetutamente facile—e ciò che rendono ripetutamente difficile.
Anthropic non ha bisogno di meno persone brillanti. Ha bisogno di una definizione più ampia di successo, che includa non solo l'intelligenza del modello e la forza delle salvaguardie, ma anche accesso, affidabilità, trasparenza e fiducia. Dal lato del cliente, la misura finale è sorprendentemente semplice: Posso contare su questo intero sistema per portare a termine il lavoro?
Muir non ha reso le sue galline meno produttive. Ha cambiato il livello a cui la produttività veniva misurata e ha scoperto che la performance collettiva conteneva informazioni che un conteggio individuale di uova non poteva catturare. Gli uccelli selezionati per la performance di gruppo sono diventati più sani e più produttivi perché l'interazione distruttiva non era più invisibile alla metrica. La cooperazione non è un'alternativa sentimentale al risultato. È una delle condizioni che hanno reso possibile un maggiore risultato.
La corsa ai modelli all'avanguardia sta entrando nella stessa fase. Quando solo un laboratorio può produrre un'intelligenza straordinaria, il modello più intelligente può sembrare indistinguibile dal miglior prodotto. Una volta che diversi laboratori possono produrre un'intelligenza straordinaria, il vantaggio competitivo si sposta verso l'esterno, nell'intero sistema.
Il modello più intelligente del mondo non è più automaticamente il miglior prodotto o il miglior adattamento al mercato. Claude può essere la gallina più grande e più intelligente nell'IA, ma nessuno fuori dal pollaio valuta le galline. Stiamo solo contando le uova.
—
Fonti
William M. Muir, "Group Selection for Adaptation to Multiple-Hen Cages," Poultry Science (1996).
https://pubmed.ncbi.nlm.nih.gov/8786932/
William M. Muir, "Incorporation of Competitive Effects in Breeding Programs," Purdue University.
https://web.ics.purdue.edu/~bmuir/papers/muir%20group%20selection%20genetics%20final%20v2.pdf
Margaret Heffernan, A Bigger Prize.
https://www.hachettebookgroup.com/titles/margaret-heffernan/a-bigger-prize/9781610392914/
Margaret Heffernan, "Is the Professional Pecking Order Doing More Harm Than Good?," NPR/TED Radio Hour.
SignalFire, "The State of Tech Talent Report — 2025."
https://www.signalfire.com/blog/signalfire-state-of-talent-report-2025
Anthropic, "Claude Fable 5 and Claude Mythos 5."
https://www.anthropic.com/news/claude-fable-5-mythos-5
—
Dichiarazione sull'IA: Ho sviluppato l'argomentazione e scritto la bozza originale dalla mia esperienza, poi ho usato ChatGPT per aiutarmi a ricercare, ristrutturare e riscrivere parti del saggio. Ho rivisto e modificato il testo finale e mi assumo la responsabilità delle sue affermazioni e conclusioni.
**Curioso di sapere cosa sto costruendo?
Un'IA che cita le sue fonti:**
