I modelli di AI migliorano in tutto ciò per cui si può scrivere una funzione di perdita, e la scuola è per lo più fatta di funzioni di perdita: problemi ben definiti valutati in base a risposte note. Di conseguenza, il lavoro di valore del prossimo decennio è tutto ciò che non può essere valutato nell'arco dell'addestramento del modello.
Durante i miei 6 anni di lavoro, ho avuto la fortuna di collaborare con persone fantastiche provenienti da aziende di tutte le dimensioni, dalla mia startup, a Helm AI (15→50 dipendenti), Scale AI (500→1500 dipendenti), OpenAI (1500→3000 dipendenti) e Google (100.000+ dipendenti). Come fondatore, passo molto tempo a pensare alle assunzioni giuste per il presente e il futuro della nostra azienda. Poiché siamo completamente nativi degli agenti, le nostre esigenze sono molto diverse da qualsiasi azienda in cui ho lavorato in precedenza.
Per individui motivati, ambiziosi e all'inizio della carriera, ora ho una prospettiva più chiara su quali competenze siano preziose nel prossimo decennio. Ho dato e ricevuto molti consigli di carriera, e mentre molti famosi aforismi rimangono veri (qualcosa come "sali sul razzo, non chiederti quale posto"), molto è cambiato a causa dell'ascesa della codifica agentica. Ecco cosa è rimasto vero, così come cosa è nuovo.
1. Concentrati sulle risorse che sono veramente limitate
Prima di entrare in Scale, avevo offerte da quant con compensi garantiti molto più alti, ma ho deciso di unirmi a Scale perché ero entusiasta della comunità e dell'esposizione a tutti i vari prodotti e applicazioni di Scale. Attraverso Scale, ho ottenuto visibilità sui provider di inferenza LLM, che mi hanno portato alle opportunità in DeepMind e OpenAI. Ho anche incontrato molti altri colleghi ambiziosi che ora formano una comunità di fondatori provenienti da Scale. Oggi, la rete unica e le opportunità di apprendimento di Scale hanno contribuito molto di più alla mia vita rispetto ai soldi extra che avrei ricevuto dal quant.
L'accesso al capitale è ora molto più facile che mai. L'accesso al tempo reale e a relazioni solide con altri esseri umani è ancora raro. L'eccellenza comprovata in imprese passate e correlate rimane il segnale più forte, quindi il mio consiglio concreto è di passare il tempo a fare buon lavoro e assicurarti che sia noto ad altre persone rispettabili che a loro volta fanno buon lavoro. Dai priorità in modo incessante al tuo tempo in modo che, qualunque cosa tu faccia, che sia scuola, progetti o stage, ti concentri su problemi che trovi significativi. Con il vibe-coding, è facile trovare opportunità che fruttano soldi veloci, ma il premio è solitamente molto più grande quando cerchi il vero valore.
Tempo, relazioni e reputazione: queste sono le vere risorse limitate su cui concentrare l'attenzione.
2. Impara a trovare i problemi oltre a risolverli
Per trovare un segnale in un mare di candidati, abbiamo riflettuto a fondo su quali competenze contano oggi per gli ingegneri che lavorano in un'azienda nativa degli agenti. Dato che nessuno scrive più righe di codice manualmente, le tradizionali domande in stile Leetcode e persino le domande di system design sembrano non correlate con l'effettiva performance lavorativa. Alla fine, siamo arrivati a una serie di colloqui che misurano quanto velocemente una persona riesce a comprendere l'ambiente in cui è inserita, identificare i problemi che vale la pena risolvere e poi eseguire la risoluzione di tali problemi sotto i vincoli dell'ambiente esistente.
Le competenze più importanti saranno quelle legate alla selezione dei problemi e all'allocazione delle risorse. Gli agenti sempre più potenti sono in grado di affrontare problemi complessi e ben definiti, quindi le persone di maggior impatto saranno quelle più brave a identificare problemi importanti e poi ad allocare token e tempo per risolverli.
Vedo una tendenza di studenti che si sentono scoraggiati dal fatto che gli agenti possano risolvere tutti i loro set di problemi. Ma nella mia esperienza di conduzione di colloqui, i candidati hanno ancora prestazioni molto variabili in termini di tempo e token necessari per arrivare alla soluzione. I grandi candidati di solito portano un'intuizione di alto livello e un contesto esterno alla loro collaborazione con gli agenti.
Concretamente, i candidati che abbiamo valutato positivamente si sono immersi in ambienti di problem-solving, sia attraverso i loro progetti personali, sia lavorando in aziende ad alta crescita dove i problemi significativi superano il numero di persone.
3. Lavora sulla forma più ambiziosa di un problema
Nell'ultimo decennio, una delle strutture mentali più utili nella ricerca è stata la "lezione amara": la scalabilità dei metodi generali supera in definitiva le ottimizzazioni specifiche del compito. Questa lezione si applica anche alla scelta dei problemi e delle aziende.
Le aziende e le carriere hanno sempre avuto risultati a legge di potenza, ma l'AI ha accelerato il tasso di progresso verso questi risultati. Poiché costruire software è ora molto più accessibile, chiunque può costruire sistemi semplici con relativa facilità. Il valore reale e duraturo si costruisce solo con un'estrema attenzione a problemi veramente ambiziosi.
Per scegliere un'azienda, il consiglio qui è semplice: valuta se l'azienda sta lavorando sulla forma più ambiziosa del suo problema, e poi se ha effettivamente una possibilità di risolverlo. Per scegliere un ruolo, pensa se il ruolo ti permetterà di lavorare direttamente sulla frontiera del problema che l'azienda sta risolvendo.
4. Sprint nell'ultimo miglio
Per le startup, Alfred Lin ha un ottimo articolo su come l'ultimo 10% sia sia il 90% del lavoro che il 90% della ricompensa. L'AI ha polarizzato i risultati perché il risultato mediano è ciò che un agente può produrre con un prompt approssimativo. Il valore deriva quindi dal fornire una prospettiva unica su una fetta di problemi o dall'attenzione ai dettagli.
Imparare a eseguire bene nell'ultimo miglio richiede sia pratica che concentrazione. Niente è perfetto al primo tentativo, quindi l'ultimo miglio è spesso una questione di iterazione. Poiché il progresso con gli agenti di codifica è stato così rapido, spesso è meglio prendere gli insegnamenti dalle iterazioni precedenti e ricominciare da capo con la generazione successiva di intelligenza. Esercitati con i tuoi progetti. Prendi l'iniziativa di dedicare solo un po' più di tempo alla rifinitura, all'architettura pulita, alla scalabilità o alla creatività. Ho sicuramente visto l'impatto tra i candidati che lo hanno fatto.
5. Aumenta sia xG che l'efficienza
Nel calcio, xG (expected goals) è una metrica per quanti gol ci si aspetta che una squadra segni in una partita in base alle sue occasioni, tenendo conto di distanza, angoli, posizione del portiere, ecc. L'efficienza è il tasso di conversione relativo su queste occasioni.
L'analogia tra xG ed efficienza per la mia carriera è stata abbastanza accurata. Nel 2023, ho rifiutato offerte da Anthropic (~50 dipendenti all'epoca) e Cursor (2 dipendenti non fondatori all'epoca) perché volevo lavorare sull'inferenza e l'addestramento di modelli all'avanguardia in DeepMind. Nel 2024, le ho rifiutate entrambe di nuovo per lavorare in OpenAI. Ognuna di queste opportunità alternative sarebbe stata ad alto xG dal punto di vista della carriera, ma ho finito per scegliere aziende più allineate con i miei interessi, l'adattamento culturale e gli obiettivi (gioco di parole voluto).
Le carriere sono lunghe e le opportunità vanno e vengono. Non credo che l'ASI sostituirà tutti gli umani nei lavori di conoscenza perché gli umani hanno capacità differenziali nel selezionare problemi significativi da risolvere per l'ASI e nell'allocare capitale per risolvere questi problemi.
Non tutte le opportunità si materializzeranno in un gol, ma essere nella giusta posizione per vedere le opportunità è il primo passo per segnare gol. Questo si riduce ancora una volta alla reputazione e all'esperienza. L'opportunità di Cursor è arrivata perché avevo una buona reputazione tra i miei contatti con Michael e Aman, e l'opportunità di Anthropic è arrivata perché avevo investito tempo sia professionale che personale in problemi che erano interessanti per il team lì.
Ad un certo punto, la vita riguarda il segnare gol, non solo vedere le opportunità, quindi anche l'efficienza sotto porta conta. Ripensando alle mie decisioni, penso di aver preso molte delle decisioni giuste, ma avrei preferito aver passato più tempo a raccogliere dati per informare le mie decisioni.
In sostanza, selezionare aziende in fase iniziale riguarda principalmente il team e il mercato. Molti candidati oggi si ancorano al prodotto esistente, ma questo si evolve quasi sempre in qualcosa di molto diverso se il team è buono. La demo iniziale di Anthropic era un Slackbot che per me era peggio di ChatGPT.
6. Puoi entrare nella ricerca ora
Recentemente, ho ricevuto molte domande da persone su come entrare nella ricerca. Il mio ex collega Vlad è un lead del team Gemini e ha un eccellente articolo con le sue prospettive su questo argomento.
La ricerca moderna è più facile da fare con più potenza di calcolo, ma un ottimo punto di partenza è usare i modelli e distillare le proprie intuizioni in valutazioni. Le classifiche di ottimizzazione pubbliche pubblicizzate dal mio ex collega @kellerjordan0 forniscono anche ottimi forum per esplorare idee in un ambiente più strutturato.
Molti provider di calcolo come Modal forniscono crediti per gli accademici. Usali ed esplora le tue idee ora. La maggior parte delle idee alla fine fallirà su larga scala e comprendere questi fallimenti è il primo passo per costruire una comprensione di ciò che funziona davvero.
In definitiva, credo che essere un ricercatore sia una mentalità, non un'occupazione. La maggior parte del lavoro di un ricercatore nei laboratori all'avanguardia è un mix di essere abbastanza curiosi da esplorare nuove idee, combattere contro l'infrastruttura per implementare le idee, comprendere l'intero sistema in dettaglio estremo per eseguire il debug in modo efficiente e articolare il valore dei risultati per ottenere più potenza di calcolo. Puoi fare tutto questo senza essere in un laboratorio all'avanguardia.
Considerazioni finali
Il mondo è ancora pieno di opportunità. La chiave per sbloccarle è concentrarsi sulla ricerca di problemi interessanti e sulla fornitura di risultati straordinari. Se questo ti attrae, contattaci e saremo lieti di lavorare con te.
