Los modelos de IA mejoran en todo aquello para lo que puedas escribir una función de pérdida, y la escuela se compone principalmente de funciones de pérdida: problemas bien definidos que se califican con respuestas conocidas. Por lo tanto, el trabajo valioso de la próxima década es todo aquello que no se puede calificar dentro del período de entrenamiento del modelo.
Durante mis 6 años de trabajo, he tenido la fortuna de colaborar con personas increíbles de empresas de todos los tamaños, desde mi propia startup, hasta Helm AI (15→50 empleados), Scale AI (500→1500 empleados), OpenAI (1500→3000 empleados) y Google (más de 100,000 empleados). Como fundador, paso mucho tiempo pensando en las contrataciones adecuadas para el presente y el futuro de nuestra empresa. Debido a que somos completamente nativos de agentes, nuestras necesidades son muy diferentes a las de cualquier empresa en la que haya trabajado antes.
Para las personas motivadas, ambiciosas y al inicio de su carrera, ahora tengo una perspectiva más clara sobre qué habilidades son valiosas en la próxima década. He dado y recibido muchos consejos profesionales, y aunque muchos dichos famosos siguen siendo ciertos (algo así como "sube al cohete, no preguntes en qué asiento"), mucho ha cambiado debido al auge de la codificación con agentes. Esto es lo que sigue siendo cierto, así como lo que es nuevo.
1. Concéntrate en los recursos que son verdaderamente limitados
Antes de unirme a Scale, tenía ofertas de cuantitativos con un efectivo garantizado mucho más alto, pero decidí unirme a Scale porque me entusiasmaba la comunidad y la exposición a todos los diversos productos y aplicaciones de Scale. A través de Scale, obtuve exposición a los proveedores de inferencia de LLM, lo que me llevó a mis oportunidades en DeepMind y OpenAI. También conocí a muchos otros colegas ambiciosos que ahora forman una comunidad de fundadores de Scale. Hoy en día, la red única y las oportunidades de aprendizaje de Scale han contribuido mucho más a mi vida que el dinero extra que habría recibido de los cuantitativos.
El acceso al capital es mucho más fácil ahora que nunca. El acceso a tiempo real y relaciones sólidas con otros seres humanos sigue siendo escaso. La excelencia comprobada en esfuerzos pasados y relacionados sigue siendo la señal más fuerte, por lo que mi consejo concreto es dedicar tiempo a hacer un buen trabajo y asegurarte de que sea conocido por otras personas de buena reputación que también hacen un buen trabajo. Prioriza implacablemente tu tiempo para que, independientemente de en lo que trabajes, ya sea en la escuela, proyectos o pasantías, te concentres en problemas que te resulten significativos. Con la codificación por vibraciones, es fácil encontrar oportunidades que generen dinero rápido, pero el premio suele ser mucho mayor cuando buscas valor real.
Tiempo, relaciones y reputación: estos son los verdaderos recursos limitados en los que debes centrar tu atención.
2. Aprende a encontrar problemas además de resolverlos
Para encontrar señales en un mar de candidatos, pensamos profundamente en qué habilidades importan hoy para los ingenieros que trabajan en una empresa nativa de agentes. Dado que nadie escribe ninguna línea de código manualmente, las preguntas tradicionales de estilo Leetcode e incluso las preguntas de diseño de sistemas parecen no estar correlacionadas con el rendimiento laboral real. Finalmente, llegamos a una serie de entrevistas que miden qué tan bien alguien puede comprender rápidamente el entorno en el que se encuentra, identificar problemas que vale la pena resolver y luego ejecutar la solución de esos problemas bajo la restricción del entorno existente.
Las habilidades más importantes serán las relacionadas con la selección de problemas y la asignación de recursos. Los agentes cada vez más poderosos pueden encargarse de problemas complejos y bien definidos, por lo que las personas de mayor impacto serán las mejores para identificar problemas importantes y luego asignar tokens y tiempo para resolverlos.
Veo una tendencia de estudiantes que se sienten desanimados por el hecho de que los agentes pueden resolver todos sus conjuntos de problemas. Pero en mi experiencia dando entrevistas, los candidatos todavía tienen rendimientos muy variables en términos de cuánto tiempo y tokens necesitan para llegar a la solución. Los grandes candidatos suelen aportar una intuición de alto nivel y un contexto externo a su colaboración con los agentes.
Concretamente, los candidatos que hemos calificado altamente se han sumergido en entornos de resolución de problemas, ya sea a través de sus propios proyectos apasionados o por estar en empresas de alto crecimiento donde los problemas significativos superan en número a las personas.
3. Trabaja en la forma más ambiciosa de un problema
Durante la última década, uno de los marcos mentales más útiles en la investigación ha sido la "lección amarga": escalar métodos generales finalmente supera a las optimizaciones específicas de tareas. Esta lección también se aplica a la elección de problemas y empresas.
Las empresas y las carreras siempre han tenido resultados de ley de potencias, pero la IA ha acelerado el ritmo de progreso hacia estos resultados. Debido a que construir software ahora es mucho más accesible, cualquiera puede construir sistemas simples con relativa facilidad. El valor real y duradero solo se construye con un enfoque extremo en problemas verdaderamente ambiciosos.
Para elegir una empresa, el consejo aquí es simple: evalúa si la empresa está trabajando en la forma más ambiciosa de su problema, y luego si realmente tienen la oportunidad de resolverlo. Para elegir un rol, piensa si el rol te permitirá trabajar directamente en la frontera del problema que la empresa está resolviendo.
4. Corre el último kilómetro
Para las startups, Alfred Lin tiene un excelente artículo sobre cómo el último 10% es tanto el 90% del trabajo como el 90% de la recompensa. La IA ha polarizado los resultados porque el resultado medio es lo que un agente puede producir con un prompt descuidado. El valor, por lo tanto, proviene de aportar una perspectiva única sobre un conjunto de problemas o atención al detalle.
Aprender a ejecutar bien en el último kilómetro requiere tanto práctica como enfoque. Nada es perfecto en el primer intento, por lo que el último kilómetro a menudo se trata de iteración. Debido a que el progreso con los agentes de codificación ha sido tan rápido, a menudo es mejor tomar lo aprendido de iteraciones anteriores y simplemente empezar desde cero con la próxima generación de inteligencia. Practica esto con tus propios proyectos. Toma la iniciativa de dedicar un poco más de tiempo al pulido, la arquitectura limpia, la escalabilidad o la creatividad. Definitivamente he visto el impacto en los candidatos que han hecho esto.
5. Aumenta tanto el xG como la eficiencia
En el fútbol, el xG (goles esperados) es una métrica de cuántos goles se espera que un equipo marque en un partido en función de sus oportunidades, teniendo en cuenta la distancia, los ángulos, la posición del portero, etc. La eficiencia es la tasa de conversión relativa de estas oportunidades.
La analogía del xG y la eficiencia con mi propia carrera ha sido bastante precisa. En 2023, rechacé ofertas de Anthropic (~50 empleados en ese momento) y Cursor (2 empleados no fundadores en ese momento) porque quería trabajar en inferencia y entrenamiento de modelos frontera en DeepMind. En 2024, rechacé ambas nuevamente para trabajar en OpenAI. Cada una de estas oportunidades alternativas habría sido un xG alto desde una perspectiva profesional, pero terminé eligiendo empresas que se alineaban más con mis intereses, ajuste cultural y objetivos (juego de palabras intencionado).
Las carreras son largas y las oportunidades van y vienen. No creo que la ASI reemplace a todos los humanos en trabajos de conocimiento porque los humanos tenemos capacidades diferenciales para seleccionar problemas significativos para que la ASI los resuelva, y para asignar capital para resolver estos problemas.
No todas las oportunidades se materializarán en un gol, pero estar en la posición correcta para ver las oportunidades es el primer paso para marcar goles. Esto nuevamente se reduce a la reputación y la experiencia. La oportunidad de Cursor surgió porque tenía una buena reputación entre mis contactos mutuos con Michael y Aman, y la oportunidad de Anthropic surgió porque había estado invirtiendo tiempo profesional y personal en problemas que eran interesantes para el equipo allí.
En algún momento, la vida se trata de marcar goles, no solo de ver las oportunidades, por lo que la eficiencia frente al arco también importa. Mirando hacia atrás en mis decisiones, creo que tomé muchas de las decisiones correctas, pero me habría gustado haber dedicado más tiempo a recopilar datos para informar mis decisiones.
En esencia, seleccionar empresas en etapa inicial se trata principalmente del equipo y el mercado. Muchos candidatos hoy se anclan en el producto existente, pero casi siempre evoluciona hacia algo muy diferente si el equipo es bueno. La demostración inicial de Anthropic era un Slackbot que era peor que ChatGPT para mí.
6. Ahora puedes incursionar en la investigación
Recientemente, he recibido muchas preguntas de personas sobre cómo incursionar en la investigación. Mi excolega Vlad es líder en el equipo de Gemini y tiene un excelente artículo sobre sus perspectivas aquí.
La investigación moderna es más fácil de hacer con más cómputo, pero un excelente lugar para comenzar es usar los modelos y destilar tus propias intuiciones en evaluaciones. Los tableros de optimización pública publicitados por mi excolega @kellerjordan0 también proporcionan excelentes foros para explorar ideas en un entorno más estructurado.
Muchos proveedores de cómputo como Modal ofrecen créditos para académicos. Úsalos y explora tus ideas ahora. La mayoría de las ideas eventualmente fallarán a escala y comprender estos fracasos es el primer paso para construir una comprensión de lo que realmente funciona.
En última instancia, creo que ser investigador es una mentalidad, no una ocupación. La mayor parte del trabajo de un investigador en laboratorios frontera es una mezcla de ser lo suficientemente curioso para explorar nuevas ideas, luchar contra la infraestructura para implementar las ideas, comprender todo el sistema con extremo detalle para depurar problemas de manera eficiente y articular el valor de los resultados para asegurar más cómputo. Puedes hacer todo esto sin estar en un laboratorio frontera.
Reflexiones finales
El mundo todavía está lleno de oportunidades. La clave para desbloquearlas es centrarse en encontrar problemas interesantes y ofrecer resultados extraordinarios. Si esto te atrae, contáctanos y nos encantaría trabajar contigo.
