Los modelos de IA mejoran en todo aquello para lo que puedas escribir una función de pérdida, y la escuela se compone principalmente de funciones de pérdida: problemas bien definidos que se evalúan con respuestas conocidas. Por lo tanto, el trabajo valioso de la próxima década es todo aquello que no se puede calificar dentro del período de entrenamiento del modelo.
Durante mis 6 años de trabajo, he tenido la suerte de colaborar con personas increíbles de empresas de todos los tamaños, desde mi propia startup, hasta Helm AI (15→50 empleados), Scale AI (500→1500 empleados), OpenAI (1500→3000 empleados) y Google (más de 100,000 empleados). Como fundador, paso mucho tiempo pensando en las contrataciones adecuadas para el presente y el futuro de nuestra empresa. Debido a que somos completamente nativos de agentes, nuestras necesidades son muy diferentes a las de cualquier empresa en la que haya trabajado antes.
Para personas motivadas, ambiciosas y al inicio de su carrera, ahora tengo una perspectiva más clara sobre qué habilidades son valiosas en la próxima década. He dado y recibido muchos consejos profesionales, y aunque muchos dichos famosos siguen siendo ciertos (algo así como "cohete, no preguntes qué asiento"), mucho ha cambiado debido al auge de la codificación con agentes. Esto es lo que sigue siendo cierto, así como lo que es nuevo.
1. Concéntrate en los recursos que son verdaderamente limitados
Antes de unirme a Scale, tenía ofertas de cuant con un efectivo garantizado mucho mayor, pero decidí unirme a Scale porque me entusiasmaba la comunidad y la exposición a todos los diversos productos y aplicaciones de Scale. A través de Scale, obtuve exposición a proveedores de inferencia de LLM, lo que me llevó a las oportunidades en DeepMind y OpenAI. También conocí a muchos otros colegas ambiciosos que ahora forman una comunidad de fundadores de Scale. Hoy en día, la red única y las oportunidades de aprendizaje de Scale han contribuido mucho más a mi vida que el dinero extra que habría recibido de cuant.
El acceso al capital es ahora mucho más fácil que nunca. El acceso al tiempo real y a relaciones sólidas con otros seres humanos sigue siendo escaso. La excelencia comprobada en esfuerzos pasados y relacionados sigue siendo la señal más fuerte, por lo que mi consejo concreto es que dediques tiempo a hacer un buen trabajo y asegurarte de que sea conocido por otras personas de buena reputación que también hacen un buen trabajo. Prioriza implacablemente tu tiempo para que, sea lo que sea en lo que trabajes, ya sea la escuela, proyectos o prácticas, te concentres en problemas que encuentres significativos. Con la codificación por vibraciones, es fácil encontrar oportunidades que generen dinero rápido, pero el premio suele ser mucho mayor cuando buscas valor real.
Tiempo, relaciones y reputación: estos son los verdaderos recursos limitados en los que debes centrar tu atención.
2. Aprende a encontrar problemas además de resolverlos
Para encontrar señales en un mar de candidatos, pensamos profundamente en qué habilidades importan hoy para los ingenieros que trabajan en una empresa nativa de agentes. Dado que nadie escribe ninguna línea de código manualmente, las preguntas tradicionales de estilo Leetcode e incluso las preguntas de diseño de sistemas parecen no estar correlacionadas con el rendimiento laboral real. Finalmente, llegamos a una serie de entrevistas que miden qué tan bien alguien puede comprender rápidamente el entorno en el que se coloca, identificar problemas que vale la pena resolver y luego ejecutar la solución de esos problemas bajo las limitaciones del entorno existente.
Las habilidades más importantes serán las relacionadas con la selección de problemas y la asignación de recursos. Los agentes cada vez más poderosos pueden abordar problemas complejos y bien definidos, por lo que las personas de mayor impacto serán aquellas que mejor identifiquen problemas importantes y luego asignen tokens y tiempo para resolverlos.
Veo una tendencia de estudiantes que se sienten desanimados por el hecho de que los agentes pueden resolver todos sus conjuntos de problemas. Pero en mi experiencia realizando entrevistas, los candidatos todavía tienen rendimientos muy variables en términos de cuánto tiempo y tokens necesitan para llegar a la solución. Los buenos candidatos suelen aportar una intuición de alto nivel y un contexto externo a su colaboración con los agentes.
Concretamente, los candidatos que hemos calificado altamente se han sumergido en entornos de resolución de problemas, ya sea a través de sus propios proyectos apasionados o por estar en empresas de alto crecimiento donde los problemas significativos superan en número a las personas.
3. Trabaja en la forma más ambiciosa de un problema
Durante la última década, uno de los marcos mentales más útiles en la investigación ha sido la "lección amarga": escalar métodos generales supera en última instancia a las optimizaciones específicas de tareas. Esta lección también se aplica a la elección de problemas y empresas.
Las empresas y las carreras siempre han tenido resultados de ley de potencias, pero la IA ha acelerado la tasa de progreso hacia estos resultados. Debido a que construir software ahora es mucho más accesible, cualquiera puede construir sistemas simples con relativa facilidad. El valor real y duradero solo se construye con un enfoque extremo en problemas verdaderamente ambiciosos.
Para elegir una empresa, el consejo aquí es simple: evalúa si la empresa está trabajando en la forma más ambiciosa de su problema, y luego si realmente tiene posibilidades de resolverlo. Para elegir un rol, piensa si el rol te permitirá trabajar directamente en la frontera del problema que la empresa está resolviendo.
4. Corre el último kilómetro
Para las startups, Alfred Lin tiene un excelente artículo sobre cómo el último 10% es tanto el 90% del trabajo como el 90% de la recompensa. La IA ha polarizado los resultados porque el resultado medio es lo que un agente puede producir con un prompt descuidado. El valor, por lo tanto, proviene de proporcionar una perspectiva única sobre un conjunto de problemas o atención al detalle.
Aprender a ejecutar bien en el último kilómetro requiere tanto práctica como concentración. Nada es perfecto en el primer intento, por lo que el último kilómetro a menudo se trata de iteración. Debido a que el progreso con los agentes de codificación ha sido tan rápido, a menudo es mejor tomar lo aprendido de iteraciones anteriores y simplemente empezar desde cero con la próxima generación de inteligencia. Practica esto con tus propios proyectos. Toma la iniciativa de dedicar solo un poco más de tiempo al pulido, la arquitectura limpia, la escalabilidad o la creatividad. Definitivamente he visto el impacto en los candidatos que han hecho esto.
5. Aumenta tanto el xG como la eficiencia
En el fútbol, el xG (goles esperados) es una métrica de cuántos goles se espera que un equipo marque en un partido en función de sus oportunidades, teniendo en cuenta la distancia, los ángulos, la posición del portero, etc. La eficiencia son las tasas de conversión relativas en estas oportunidades.
La analogía del xG y la eficiencia con mi propia carrera ha sido bastante precisa. En 2023, rechacé ofertas de Anthropic (~50 empleados en ese momento) y Cursor (2 empleados no fundadores en ese momento) porque quería trabajar en la inferencia y el entrenamiento de modelos de frontera en DeepMind. En 2024, rechacé ambas nuevamente para trabajar en OpenAI. Cada una de estas oportunidades alternativas habría sido un xG alto desde una perspectiva profesional, pero terminé eligiendo empresas que se alineaban más con mis intereses, ajuste cultural y objetivos (juego de palabras intencionado).
Las carreras son largas y las oportunidades van y vienen. No creo que la ASI reemplace a todos los humanos en trabajos de conocimiento porque los humanos tienen capacidades diferenciales para seleccionar problemas significativos para que la ASI los resuelva, y para asignar capital para resolver estos problemas.
No todas las oportunidades se materializarán en un gol, pero estar en la posición correcta para ver las oportunidades es el primer paso para marcar goles. Esto nuevamente se reduce a la reputación y la experiencia. La oportunidad de Cursor surgió porque tenía buena reputación entre mis contactos en común con Michael y Aman, y la oportunidad de Anthropic surgió porque había estado invirtiendo tiempo tanto profesional como personal en problemas que eran interesantes para el equipo allí.
En algún momento, la vida se trata de marcar goles, no solo de ver las oportunidades, por lo que la eficiencia frente al gol también importa. Mirando hacia atrás en mis decisiones, creo que tomé muchas de las decisiones correctas, pero habría preferido haber pasado más tiempo recopilando datos para informar mis decisiones.
En esencia, seleccionar empresas en etapa inicial se trata principalmente del equipo y el mercado. Muchos candidatos hoy en día se anclan en el producto existente, pero eso casi siempre evoluciona hacia algo muy diferente si el equipo es bueno. La demostración inicial de Anthropic era un Slackbot que era peor que ChatGPT para mí.
6. Puedes incursionar en la investigación ahora
Recientemente, he recibido muchas preguntas de personas sobre cómo incursionar en la investigación. Mi excolega Vlad es líder en el equipo de Gemini y tiene una excelente publicación sobre sus perspectivas aquí.
La investigación moderna es más fácil de hacer con más cómputo, pero un excelente lugar para comenzar es usar los modelos y destilar tus propias intuiciones en evaluaciones. Los tableros de optimización pública publicados por mi excolega @kellerjordan0 también proporcionan excelentes foros para explorar ideas en un entorno más estructurado.
Muchos proveedores de cómputo como Modal ofrecen créditos para académicos. Úsalos y explora tus ideas ahora. La mayoría de las ideas eventualmente fallarán a escala y comprender estos fracasos es el primer paso para construir una comprensión de lo que realmente funciona.
En última instancia, creo que ser investigador es una mentalidad, no una ocupación. La mayor parte del trabajo de un investigador en laboratorios de frontera es una mezcla de ser lo suficientemente curioso para explorar nuevas ideas, luchar contra la infraestructura para implementar las ideas, comprender el sistema completo con extremo detalle para depurar problemas de manera eficiente y articular el valor de los resultados para asegurar más cómputo. Puedes hacer todo esto sin estar en un laboratorio de frontera.
Reflexiones finales
El mundo todavía está lleno de oportunidades. La clave para desbloquearlas es centrarse en encontrar problemas interesantes y ofrecer resultados extraordinarios. Si esto te atrae, contáctanos y nos encantaría trabajar contigo.
