KI-Modelle werden bei allem besser, wofür man eine Verlustfunktion schreiben kann, und die Schule besteht größtenteils aus Verlustfunktionen: klar definierte Probleme, die anhand bekannter Antworten bewertet werden. Daher ist die wertvolle Arbeit des nächsten Jahrzehnts alles, was nicht innerhalb der Spanne des Modelltrainings bewertet werden kann.
Während meiner sechsjährigen Berufstätigkeit hatte ich das Glück, mit großartigen Menschen von Unternehmen aller Größen zusammenzuarbeiten – von meinem eigenen Startup über Helm AI (15→50 Mitarbeiter), Scale AI (500→1500 Mitarbeiter), OpenAI (1500→3000 Mitarbeiter) bis hin zu Google (100.000+ Mitarbeiter). Als Gründer denke ich viel darüber nach, wen wir für die Gegenwart und Zukunft unseres Unternehmens einstellen sollten. Da wir von Grund auf agenten-nativ sind, unterscheiden sich unsere Anforderungen grundlegend von denen aller Unternehmen, in denen ich zuvor gearbeitet habe.
Für motivierte, ambitionierte Berufseinsteiger habe ich jetzt eine klarere Vorstellung davon, welche Fähigkeiten im kommenden Jahrzehnt wertvoll sein werden. Ich habe viele Karriereratschläge gegeben und erhalten, und während viele bekannte Weisheiten weiterhin gelten (sinngemäß: Steig auf die Rakete, frag nicht nach dem Sitzplatz), hat sich durch den Aufstieg des agentischen Programmierens vieles verändert. Hier ist, was wahr geblieben ist, sowie das, was neu ist.
1. Konzentriere dich auf Ressourcen, die wirklich begrenzt sind
Bevor ich zu Scale kam, hatte ich Quant-Angebote mit viel höheren garantierten Gehältern, aber ich entschied mich für Scale, weil ich von der Community und dem Einblick in alle verschiedenen Produkte und Anwendungen von Scale begeistert war. Durch Scale bekam ich Zugang zu LLM-Inferenzanbietern, was mir meine Möglichkeiten bei DeepMind und OpenAI eröffnete. Ich traf auch viele andere ambitionierte Kollegen, die heute eine Gemeinschaft von Gründern aus Scale bilden. Das einzigartige Netzwerk und die Lernmöglichkeiten von Scale haben heute weit mehr zu meinem Leben beigetragen als das zusätzliche Geld, das ich von den Quants bekommen hätte.
Der Zugang zu Kapital ist heute einfacher denn je. Der Zugang zu echter Zeit und starken Beziehungen zu anderen Menschen ist immer noch selten. Nachgewiesene Exzellenz in früheren, verwandten Unternehmungen bleibt das stärkste Signal. Mein konkreter Rat ist daher, Zeit damit zu verbringen, gute Arbeit zu leisten und sicherzustellen, dass sie anderen angesehenen Menschen bekannt wird, die selbst gute Arbeit leisten. Priorisiere deine Zeit gnadenlos, sodass du dich, egal ob in der Schule, bei Projekten oder Praktika, auf Probleme konzentrierst, die du als bedeutungsvoll empfindest. Mit Vibe-Coding ist es leicht, Gelegenheiten zu finden, die schnelles Geld bringen, aber die Belohnung ist meist viel größer, wenn man nach echtem Wert sucht.
Zeit, Beziehungen und Reputation: Das sind die wahren begrenzten Ressourcen, auf die man sich konzentrieren sollte.
2. Lerne, Probleme zu finden, nicht nur zu lösen
Um in einer Flut von Kandidaten die richtigen Signale zu finden, haben wir intensiv darüber nachgedacht, welche Fähigkeiten heute für Ingenieure in einem agenten-nativen Unternehmen wichtig sind. Da niemand mehr manuell Code schreibt, fühlen sich traditionelle Leetcode-Fragen und sogar Systemdesign-Fragen nicht mehr mit der tatsächlichen Arbeitsleistung korreliert an. Schließlich haben wir eine Reihe von Interviews entwickelt, die messen, wie gut jemand die Umgebung, in die er versetzt wird, schnell verstehen, lohnenswerte Probleme identifizieren und diese dann unter den Einschränkungen der bestehenden Umgebung lösen kann.
Die wichtigsten Fähigkeiten werden die sein, die mit der Problemauswahl und Ressourcenzuteilung zusammenhängen. Immer leistungsfähigere Agenten können komplexe, klar definierte Probleme übernehmen. Daher werden die einflussreichsten Menschen diejenigen sein, die am besten darin sind, wichtige Probleme zu identifizieren und dann Tokens und Zeit für deren Lösung zu verwenden.
Ich sehe einen Trend, dass Studenten entmutigt sind, weil Agenten all ihre Aufgaben lösen können. Aber meiner Erfahrung nach in Vorstellungsgesprächen variieren die Kandidaten immer noch stark darin, wie viel Zeit und Tokens sie benötigen, um zur Lösung zu gelangen. Großartige Kandidaten bringen in der Regel ein hohes Maß an Intuition und externen Kontext in ihre Zusammenarbeit mit Agenten ein.
Konkret: Kandidaten, die wir hoch bewertet haben, haben sich in Problemlösungsumgebungen vertieft, entweder durch eigene Leidenschaftsprojekte oder durch die Arbeit in schnell wachsenden Unternehmen, in denen sinnvolle Probleme die Anzahl der Mitarbeiter übersteigen.
3. Arbeite an der ambitioniertesten Form eines Problems
In den letzten zehn Jahren war eine der nützlichsten mentalen Rahmenbedingungen in der Forschung die „bittere Lektion“: Die Skalierung allgemeiner Methoden übertrifft letztlich aufgabenspezifische Optimierungen. Diese Lektion gilt auch für die Auswahl von Problemen und Unternehmen.
Unternehmen und Karrieren hatten schon immer Power-Law-Ergebnisse, aber KI hat das Tempo der Fortschritte hin zu diesen Ergebnissen beschleunigt. Da die Softwareentwicklung jetzt viel zugänglicher ist, kann jeder mit relativer Leichtigkeit einfache Systeme bauen. Wirklicher, dauerhafter Wert entsteht nur durch extreme Konzentration auf wirklich ambitionierte Probleme.
Um ein Unternehmen auszuwählen, ist der Rat hier einfach: Bewerte, ob das Unternehmen an der ambitioniertesten Form seines Problems arbeitet, und ob es tatsächlich eine Chance hat, es zu lösen. Um eine Rolle auszuwählen, überlege, ob die Rolle es dir erlaubt, direkt an der Front des jeweiligen Problems zu arbeiten, das das Unternehmen löst.
4. Sprint die letzte Meile
Für Startups hat Alfred Lin einen großartigen Artikel darüber, wie die letzten 10 % sowohl 90 % der Arbeit als auch 90 % der Belohnung ausmachen. KI hat die Ergebnisse polarisiert, weil das mittlere Ergebnis das ist, was ein Agent mit einem schlampigen Prompt produzieren kann. Wert entsteht daher durch eine einzigartige Perspektive auf einen Teilbereich von Problemen oder durch Liebe zum Detail.
Zu lernen, die letzte Meile gut zu absolvieren, erfordert sowohl Übung als auch Fokus. Nichts ist beim ersten Versuch perfekt, daher geht es bei der letzten Meile oft um Iteration. Da die Fortschritte mit Codierungsagenten so rasant waren, ist es oft besser, aus früheren Iterationen zu lernen und mit der nächsten Intelligenzgeneration von Grund auf neu zu beginnen. Übe dies mit deinen eigenen Projekten. Ergreife die Initiative, um etwas mehr Zeit in Politur, saubere Architektur, Skalierbarkeit oder Kreativität zu investieren. Ich habe definitiv die Auswirkungen bei Kandidaten gesehen, die dies getan haben.
5. Erhöhe sowohl xG als auch Effizienz
Im Fußball ist xG (Expected Goals) eine Metrik dafür, wie viele Tore eine Mannschaft in einem Spiel basierend auf ihren Chancen voraussichtlich erzielen wird, unter Berücksichtigung von Entfernung, Winkeln, Torwartposition usw. Effizienz ist die relative Verwertungsquote dieser Chancen.
Die xG- und Effizienz-Analogie für meine eigene Karriere war ziemlich zutreffend. Im Jahr 2023 lehnte ich Angebote von Anthropic (damals ~50 Mitarbeiter) und Cursor (damals 2 nicht-gründende Vollzeitkräfte) ab, weil ich an der Frontier-Modell-Inferenz und dem Training bei DeepMind arbeiten wollte. Im Jahr 2024 lehnte ich beide erneut ab, um bei OpenAI zu arbeiten. Jede dieser alternativen Möglichkeiten wäre aus Karriereperspektive ein hoher xG gewesen, aber ich entschied mich letztendlich für Unternehmen, die besser zu meinen Interessen, meiner kulturellen Passung und meinen Zielen passten (Wortspiel beabsichtigt).
Karrieren sind lang und Chancen kommen und gehen. Ich glaube nicht, dass ASI alle Menschen in Wissensarbeitsjobs ersetzen wird, weil Menschen unterschiedliche Fähigkeiten haben, sinnvolle Probleme für ASI auszuwählen und Kapital zur Lösung dieser Probleme zuzuweisen.
Nicht jede Chance wird zu einem Tor, aber in der richtigen Position zu sein, um die Chancen zu sehen, ist der erste Schritt, um Tore zu erzielen. Das kommt wieder auf Reputation und Fachwissen an. Die Cursor-Möglichkeit ergab sich, weil ich einen guten Ruf bei meinen gemeinsamen Bekannten mit Michael und Aman hatte, und die Anthropic-Möglichkeit ergab sich, weil ich sowohl beruflich als auch privat Zeit in Probleme investiert hatte, die für das dortige Team interessant waren.
Irgendwann geht es im Leben darum, Tore zu erzielen, nicht nur darum, die Chancen zu sehen, daher ist auch die Effizienz vor dem Tor wichtig. Rückblickend auf meine Entscheidungen glaube ich, dass ich viele richtige Entscheidungen getroffen habe, hätte aber mehr Zeit damit verbringen sollen, Daten zu sammeln, um meine Entscheidungen zu untermauern.
Im Kern geht es bei der Auswahl von Unternehmen in der Frühphase hauptsächlich um das Team und den Markt. Viele Kandidaten versteifen sich heute auf das bestehende Produkt, aber das entwickelt sich fast immer zu etwas ganz anderem, wenn das Team gut ist. Anthropics erster Demo war ein Slackbot, der für mich schlechter war als ChatGPT.
6. Du kannst jetzt in die Forschung einsteigen
In letzter Zeit habe ich viele Fragen von Leuten bekommen, wie man in die Forschung einsteigt. Mein ehemaliger Kollege Vlad ist ein Leiter des Gemini-Teams und hat einen hervorragenden Artikel mit seinen Perspektiven dazu geschrieben.
Moderne Forschung ist mit mehr Rechenleistung einfacher, aber ein großartiger Ausgangspunkt ist es, die Modelle zu nutzen und die eigenen Intuitionen in Evaluierungen zu destillieren. Öffentliche Optimierungs-Bestenlisten, die von meinem ehemaligen Kollegen @kellerjordan0 veröffentlicht wurden, bieten ebenfalls großartige Foren, um Ideen in einem strukturierteren Rahmen zu erkunden.
Viele Rechenanbieter wie Modal bieten Credits für Akademiker an. Nutze sie und erkunde jetzt deine Ideen. Die meisten Ideen werden im großen Maßstab scheitern, und das Verständnis dieser Fehlschläge ist der erste Schritt, um zu verstehen, was tatsächlich funktioniert.
Letztendlich glaube ich, dass Forscher zu sein eine Denkweise ist, kein Beruf. Die meiste Arbeit eines Forschers in Frontier-Laboren ist eine Mischung aus Neugier, neue Ideen zu erkunden, gegen die Infrastruktur zu kämpfen, um die Ideen umzusetzen, das gesamte System bis ins kleinste Detail zu verstehen, um Fehler effizient zu beheben, und den Wert der Ergebnisse zu artikulieren, um mehr Rechenleistung zu sichern. Du kannst all das tun, ohne in einem Frontier-Labor zu sein.
Abschließende Gedanken
Die Welt ist immer noch voller Möglichkeiten. Der Schlüssel, sie zu erschließen, liegt darin, sich darauf zu konzentrieren, interessante Probleme zu finden und außergewöhnliche Ergebnisse zu liefern. Wenn dich das anspricht, melde dich – wir würden gerne mit dir zusammenarbeiten.
