Tu agente de IA funciona muy bien durante los primeros 10 pasos.
Luego, alrededor del paso 15, empieza a volverse impreciso.
Llamadas a herramientas equivocadas. Olvida tus instrucciones originales. Resultados de baja calidad.
La mayoría culpa al modelo.
Casi nunca es el modelo.
Es lo que el modelo está viendo.
Organizar lo que el modelo ve se llama ingeniería de contexto.
Se está convirtiendo rápidamente en la habilidad más importante para cualquiera que construya agentes de IA.
Aquí está el manual completo.
La ingeniería de prompts ha muerto. La ingeniería de contexto es lo que importa ahora.
Has oído hablar de la ingeniería de prompts.
Escribir instrucciones claras. Buenos ejemplos. Decirle al modelo qué rol debe desempeñar.
Eso funciona perfectamente para un chatbot.
Deja de funcionar en el momento en que construyes un agente.
He aquí por qué.
Un chatbot responde una pregunta y se detiene.
Un agente realiza acciones — navegar por la web, llamar APIs, escribir código, ejecutar comandos — paso tras paso tras paso, a veces durante decenas de pasos.
Cada paso individual produce una salida que se agrega al contexto del modelo.
Y ese contexto es finito.
El equipo de ingeniería de Anthropic lo define así:
"El contexto es el conjunto de tokens incluidos cuando se muestrea un LLM. La ingeniería de contexto consiste en optimizar la utilidad de esos tokens para lograr consistentemente un resultado deseado."
En pocas palabras: asegúrate de que tu agente vea la información correcta, en el formato correcto, en el momento correcto.
La ingeniería de prompts es un subconjunto de la ingeniería de contexto.
La ingeniería de contexto lo es todo.
La ventana de contexto de tu agente es la RAM. Y se está llenando.
LangChain tiene la analogía correcta para esto.
Piensa en un LLM como un nuevo tipo de sistema operativo.
El modelo es la CPU — hace el pensamiento.
La ventana de contexto es la RAM — la memoria de trabajo donde reside todo lo que el modelo puede ver y razonar actualmente.
Así como tu computadora se ralentiza cuando la RAM se llena, el razonamiento de tu agente se degrada cuando la ventana de contexto se satura.
Esto se llama podredumbre de contexto.
Chroma realizó un estudio evaluando 18 modelos de frontera — GPT-4.1, Claude 4, Gemini 2.5, Qwen3 y otros.
El rendimiento de todos y cada uno de los modelos se degradó a medida que aumentaba la longitud de la entrada.
No en el límite máximo. Mucho antes.
Un modelo con una ventana de 200K tokens podría mostrar una degradación significativa a los 50K tokens.
El declive es continuo. No es un precipicio.
¿Por qué? Los Transformers funcionan haciendo que cada token preste atención a todos los demás tokens — creando relaciones de n al cuadrado. A medida que el contexto crece, la capacidad del modelo para mantener todas esas relaciones se diluye.
Y luego está el problema de "Perdido en el Medio".
Los LLMs muestran una curva de atención en forma de U.
→ Principio del contexto: bien recordado
→ Final del contexto: bien recordado
→ Medio: en gran parte ignorado
Los investigadores midieron una caída en la precisión de más de 30 puntos porcentuales cuando la información relevante se movió del principio del contexto al medio.
Tus instrucciones originales — enterradas bajo 50,000 tokens de salidas de herramientas — desaparecen efectivamente.
Los usuarios de Claude Code han encontrado que la calidad de la salida se degrada al 40–60% de la capacidad del contexto. Mucho antes de cualquier límite máximo.
Qué compite realmente por el espacio en el contexto de tu agente
7 categorías. Todas compitiendo por la misma ventana finita.
1. Prompt del Sistema
La identidad del agente. Reglas de comportamiento. Lógica de flujo de control. Instrucciones para diferentes tipos de tareas. En un agente, esto no es solo "sé útil". Puede definir toda la arquitectura.
2. Definiciones de Herramientas
Cada herramienta que el agente podría llamar necesita un esquema que describa qué hace, qué parámetros toma y cuándo usarla.
3. Resultados de Llamadas a Herramientas
Cada llamada a una herramienta agrega su salida al contexto. Una recuperación de página web: 5,000–10,000 tokens. Una lectura de archivo: similar. Estos se acumulan rápidamente.
4. Conocimiento Recuperado (RAG)
Documentos extraídos de bases de datos vectoriales, resultados de búsqueda, respuestas de API — cualquier cosa recuperada para informar las decisiones del agente.
5. Historial de Conversación
La transcripción completa de todo lo que ha sucedido. Mensajes del usuario, respuestas del agente, razonamiento, decisiones previas. Crece linealmente con cada turno.
6. Memoria
Memoria a corto plazo de la sesión actual. Memoria a largo plazo de sesiones anteriores — preferencias del usuario, resultados previos, patrones aprendidos.
7. Estado del Agente
Plan actual, lista de tareas pendientes, marcadores de progreso, notas del bloc de notas. La metainformación que rastrea dónde se encuentra el agente en una tarea de varios pasos.
Los 7 compitiendo por la misma ventana.
La ingeniería de contexto consiste en decidir qué gana.
Las 4 Estrategias Principales
LangChain publicó el marco que organiza cada técnica de ingeniería de contexto en 4 categorías.
Cada técnica que aprenderás encaja en una de estas.
Escribir. Seleccionar. Comprimir. Aislar.
Estrategia 1 — Escribir (Los agentes olvidan. Dales una forma de recordar.)
Cuando el contexto de un agente se llena y se compacta, pierde información.
Si el agente no escribió nada antes de que eso sucediera — esa información se pierde para siempre.
Escribir significa darle al agente formas de persistir información fuera de la ventana de contexto.
Tres formas:
Blocs de Notas
Dale al agente una herramienta que le permita tomar notas durante una tarea. Hallazgos intermedios. Decisiones tomadas. Información que sabe que necesitará después.
Anthropic construyó una herramienta "think" — un espacio dedicado para que Claude resuelva problemas.
En el benchmark tau-bench, esto mejoró el rendimiento hasta en un 54% en ciertas tareas.
Archivos de Reglas
Memoria procedural persistente.
Si has usado Claude Code, has visto CLAUDE.md.
Instrucciones cargadas al inicio de cada sesión — arquitectura del proyecto, convenciones, cómo ejecutar pruebas, qué tener cuidado.
El agente lo lee cada vez que inicia.
Nunca olvida los fundamentos.
Extracción de Memoria
El agente guarda hechos, preferencias del usuario y patrones aprendidos para poder recuperarlos entre sesiones.
Vive completamente fuera de la ventana de contexto.
La información que el agente necesita mañana está ahí esperando cuando llegue mañana.
Estrategia 2 — Seleccionar (No le des todo al agente. Dale lo que necesita en este momento.)
Un agente con 40 herramientas, una gran base de conocimiento y varias sesiones de historial no puede cargar todo eso a la vez.
Algo tiene que decidir qué es relevante para este paso.
RAG Tradicional: el sistema decide.
El usuario pregunta → recuperar documentos → meter en el prompt → listo.
Estático. De un solo disparo. El modelo no tiene voz.
RAG Agéntico: el agente decide. Busca lo que necesita, refina consultas, elige herramientas, determina cuándo tiene suficiente información.
Recuperación como un proceso iterativo, no como un pipeline de un solo disparo.
Esto importa porque lo que es relevante cambia en cada paso — y solo el agente sabe qué necesita después.
El problema de selección de herramientas es el que más tropieza a la gente.
Si tu agente tiene 40+ herramientas, eso son potencialmente 10,000 tokens de definiciones de herramientas sentadas en el contexto antes de que comience cualquier trabajo.
La solución: RAG sobre descripciones de herramientas.
En lugar de volcar todas las definiciones de herramientas en cada llamada, usa búsqueda semántica para mostrar solo las herramientas relevantes para el paso actual.
Un artículo llamado RAG-MCP probó esto.
Precisión de selección de herramientas: 14% → 43% (mejora de 3x). Uso de tokens: reducido aproximadamente a la mitad.
Anthropic lo llama una estrategia híbrida: cargar el contexto esencial al inicio (como CLAUDE.md), dejar que el agente haga recuperación justo a tiempo para todo lo demás.
Cargar lo básico al inicio. Recuperar el resto bajo demanda.
Estrategia 3 — Comprimir (El contexto se acumula. Mantén el significado, reduce los tokens.)
Incluso con una buena selección, el contexto se acumula.
Cada llamada a herramienta, documento recuperado y decisión permanece en la ventana.
Imagina que tu agente ha hecho 20 llamadas a herramientas.
Contexto: 80,000 tokens de salidas de herramientas acumuladas, historial de conversación, trazas de razonamiento.
La mayor parte de eso ya no es relevante. El agente ya actuó sobre ello.
Pero sigue ahí, ocupando espacio, degradando la atención, aumentando el costo y la latencia.
Puedes comprimir en 3 puntos.
Antes de que la información entre al contexto:
→ Fragmentar documentos grandes en partes coherentes antes de la recuperación
→ Reordenar para que solo los fragmentos más útiles entren
→ Resumir las salidas de las herramientas sobre la marcha antes de que entren al contexto principal
Mientras el agente está trabajando:
→ Resumen continuo del historial de conversación — actualizado constantemente
→ Híbrido popular: mantener los últimos 10 mensajes textuales + resumir todo lo más antiguo
→ Recorte duro: eliminar mensajes más antiguos una vez que el contexto alcanza un umbral de tamaño
→ Auto-compactación de Claude Code: se activa al 95% de capacidad, resume automáticamente la trayectoria completa
Después de que el agente ha actuado sobre algo:
→ Limpieza de resultados de herramientas: una vez que un resultado de herramienta se usó hace 15 pasos, eliminarlo
→ Reemplazar con un resumen de una línea o eliminar por completo
→ El agente no necesita el texto completo de una página web que obtuvo hace 20 pasos
El objetivo: reducir el recuento de tokens. Preservar lo que realmente importa.
Estrategia 4 — Aislar (La estrategia más poderosa. Permite sistemas multi-agente.)
Aquí está el problema más profundo con las ejecuciones largas de agentes.
No es solo el espacio. Es la contaminación.
Las búsquedas detalladas de archivos de la fase de investigación aún están sentadas en el contexto cuando el agente pasa a escribir código.
Ese contexto de investigación antiguo ahora es ruido. Está distrayendo al modelo durante una fase en la que necesita concentrarse en una implementación limpia.
Aislar significa darle a diferentes partes del trabajo sus propias ventanas de contexto separadas.
Sub-agentes
Un agente padre delega una subtarea enfocada — "busca en el código fuente todos los archivos relacionados con la autenticación" — a un sub-agente.
El sub-agente trabaja en su propia ventana de contexto limpia.
Cuando informa, devuelve solo un resumen condensado.
Todas las operaciones de búsqueda desordenadas permanecen aisladas en el contexto del sub-agente y nunca contaminan al padre.
Aislamiento de esquema de estado (enfoque de LangGraph)
Diseña el estado del agente para que diferentes campos almacenen diferentes tipos de contexto.
El LLM solo ve los campos relevantes para el paso actual.
Los resultados de las herramientas se colocan en un campo "backstage" — invisible para el modelo hasta que se muestren explícitamente.
Control detallado sobre lo que el agente ve en cada paso sin necesidad de crear sub-agentes separados.
El aislamiento es lo que hace que los flujos de trabajo complejos de varios pasos sean realmente confiables.
Diferentes trabajos. Diferentes ventanas de contexto. Sin contaminación.
4 Formas en que Fallan los Agentes (Nombra la falla. Arrégla.)
Drew Breunig identificó cuatro modos distintos de falla a medida que crece el contexto del agente.
Cada agente roto que hayas visto cae en una de estas.
Falla 1: Envenenamiento del Contexto
Una alucinación o error entra en el contexto.
El agente lo referencia una y otra vez en pasos subsiguientes.
Los datos incorrectos del paso 5 se agravan en cada paso posterior.
Solución: Valida las salidas de las herramientas antes de que entren al contexto. Después de recuperarte de un error, comprime el historial del intento fallido. No dejes 10 pasos de depuración sin salida visibles cuando solo importa la resolución.
━━━
Falla 2: Distracción del Contexto
El contexto se vuelve tan largo que el modelo comienza a confiar en exceso en el historial reciente.
En lugar de sintetizar un plan novedoso, solo repite lo que hizo recientemente.
Deja de pensar. Empieza a repetir.
Solución: Resume y poda agresivamente. Incluso cuando tengas una gran ventana de contexto disponible. Ventana grande no significa llenarla.
━━━
Falla 3: Confusión del Contexto
El contenido superfluo lleva al modelo a tomar decisiones de baja calidad.
Ejemplo clásico: un modelo falla en un benchmark cuando se le dan 46 herramientas — aunque el contexto estaba bien dentro de los límites — pero funciona bien con solo 19 herramientas.
Las herramientas no eran demasiadas para que el contexto las sostuviera.
Eran demasiadas para que el modelo razonara con claridad.
Solución: Gestión dinámica de herramientas. Usa RAG-MCP para mostrar solo las herramientas relevantes para el paso actual. Mantén el conjunto de herramientas emparejado con la fase actual.
━━━
Falla 4: Choque de Contexto
La nueva información contradice algo ya presente en el contexto.
El prompt del sistema dice una cosa. Un documento recuperado dice algo diferente.
El agente no puede reconciliar la contradicción. Produce un comportamiento inconsistente.
Solución: Establece un orden de autoridad claro. Prompt del sistema > hechos recuperados > historial de conversación. Valida la nueva información contra el contexto existente antes de inyectarla. Usa etiquetas XML y encabezados claros para que el modelo sepa en qué fuente confiar.
Cómo Escribir Prompts del Sistema para Agentes (No chatbots. Agentes.)
El prompt del sistema de un chatbot establece un tono.
"Eres un asistente útil. Sé conciso y amable."
El prompt del sistema de un agente define la arquitectura.
Especifica el flujo de control — cómo abordar los tipos de tareas, qué herramientas usar cuándo, qué hacer en caso de errores, qué barreras de seguridad seguir.
Está más cerca de escribir una descripción del puesto para un empleado autónomo que un prompt de personalidad.
Anthropic lo llama escribir a la "altitud correcta".
Demasiado prescriptivo:"Si el usuario menciona facturación Y menciona un reembolso Y el monto es superior a $100, llama a la herramienta X". Frágil. Se rompe en cada caso extremo que no anticipaste.
Demasiado vago:"Sé útil y usa las herramientas apropiadas". No le da nada al agente. No puede tomar buenas decisiones autónomas sin señales concretas.
El punto óptimo:Lo suficientemente específico para guiar el comportamiento autónomo. Lo suficientemente flexible para que el modelo aplique su juicio en situaciones novedosas. Heurísticas sólidas. No reglas rígidas.
Consejos prácticos:
→ Organiza con etiquetas XML o encabezados de markdown — Antecedentes, Instrucciones, Guía de Herramientas
→ Comienza con un mínimo e itera sobre las fallas — no intentes anticipar todos los casos extremos desde el principio
→ Mínimo no significa corto — el prompt del sistema de un agente complejo puede tener miles de tokens y eso está bien siempre que cada token gane su lugar
→ Usa ejemplos de pocos disparos — muéstrale al agente cómo se ve un buen comportamiento en lugar de tratar de describir cada regla con palabras
El KV-Cache: La razón $$$ para preocuparse por el orden del contexto
La mayoría de los constructores de agentes no saben que esto existe.
Cuando envías tokens a un LLM, el modelo calcula representaciones clave-valor para cada token.
Computacionalmente costoso.
Por lo tanto, los proveedores de inferencia almacenan en caché estas representaciones.
Si el principio de tu contexto — el prefijo — permanece igual entre llamadas a la API, el proveedor reutiliza el cálculo en caché y solo procesa los nuevos tokens al final.
Rápido. Barato.
Pero si reorganizas o cambias la parte inicial de tu contexto entre llamadas — invalidas el caché. El proveedor recalcula todo desde cero.
La diferencia de costo en Claude Sonnet:
→ Tokens de entrada en caché: $0.30 por millón
→ Tokens de entrada sin caché: $3.00 por millón
Diferencia de 10x.
Para un agente que realiza 30–40 llamadas a la API por tarea, esto se acumula rápidamente.
Reglas prácticas para la eficiencia del KV-cache:
→ El contenido estable va en la PARTE SUPERIOR del contexto — prompt del sistema, definiciones de herramientas, cualquier cosa que no cambie entre turnos
→ El contenido dinámico va en la PARTE INFERIOR — historial de conversación, paso actual, estado del agente
→ No agregues ni elimines herramientas dinámicamente en medio de una conversación — invalida el caché
→ Usa enmascaramiento de herramientas en lugar de eliminación de herramientas — mantén todas las definiciones de herramientas estables en el prefijo (en caché), solo marca las irrelevantes como no disponibles para la fase actual
El Flujo de Trabajo Que Envía 35,000 Líneas de Código en 7 Horas
Dex Horthy (CEO de HumanLayer) presentó esto en la Cumbre de Ingenieros de Código de IA.
Su equipo aparentemente lo usó para enviar ~35,000 líneas de código a una gran base de código Rust en una sola sesión de 7 horas.
El método: Compactación Intencional Frecuente.
Estructura el trabajo del agente en fases. Cada fase produce un artefacto compactado. Cada nueva fase comienza con una ventana de contexto fresca que contiene solo ese artefacto.
Mantente deliberadamente por debajo del 40–60% de la ventana de contexto en todo momento.
Fase 1 — Investigación
Los sub-agentes exploran la base de código. Leen archivos. Rastrean flujos de datos. Mapean la arquitectura.
Todos los resultados desordenados de grep y los contenidos de archivos permanecen en los contextos de los sub-agentes. Nunca tocan al padre. (Aislar)
Salida: un research.md compacto — rutas de archivos, firmas de funciones, patrones, trampas. (Escribir)
Restablecimiento de contexto: la investigación bruta usó el 60–80% de la ventana. El artefacto de investigación lo comprime al 15–20%. (Comprimir)
Fase 2 — Planificación
Nueva ventana de contexto. Contiene solo: documento de investigación + definición del problema.
El agente produce un plan de implementación detallado.
Este es el punto de control de revisión humana más importante.
Detecta errores de lógica aquí, donde arreglarlos es fácil y gratis. Más tarde cuesta horas.
Fase 3 — Implementación
Otra ventana de contexto fresca. Contiene solo: el plan.
El agente lo sigue paso a paso.
Para tareas complejas: un progress.md rastrea lo que se ha completado y lo que queda. (Escribir)
El resultado: un agente limpio y enfocado en cada fase. Sin contaminación. Sin podredumbre de contexto. Sin el "paso 20 descuidado".
Cómo las mejores plataformas manejan esto de manera diferente
Claude Code
Recuperación híbrida. CLAUDE.md se carga al inicio. Herramientas como glob y grep manejan la navegación del código fuente justo a tiempo.
Auto-compactación al 95% — preserva las decisiones arquitectónicas y los 5 archivos accedidos más recientemente.
Puede generar sub-agentes para subtareas complejas, cada uno con su propio contexto limpio.
Filosofía: "haz lo más simple que funcione". Deja que el modelo sea inteligente sobre lo que necesita y dale herramientas para encontrarlo.
Manus
Orden de contexto consciente del KV-cache: prefijo estable, sufijo dinámico. Enmascaramiento de herramientas, no eliminación.
Pipeline de compresión de observación — cada salida de herramienta se procesa antes de entrar al contexto del agente.
Lista de tareas pendientes persistente para el seguimiento del estado.
Sistema de archivos como memoria de desbordamiento para el contexto desalojado.
Construido para escalar. Sirviendo a cientos de miles de usuarios donde la eficiencia es un problema de costo operativo.
ChatGPT Agent
Enfoque visual primero. El agente interactúa con un navegador GUI.
Capturas de pantalla añadidas al contexto como instantáneas visuales. El modelo razona sobre lo que ve.
Los tokens visuales son caros, por lo que el agente es selectivo con la cantidad de capturas de pantalla.
Usa RL para aprender estrategias óptimas de uso de herramientas a través de miles de máquinas virtuales en lugar de programarlas explícitamente.
Google ADK
El enfoque arquitectónico más fundamentado.
Tres principios de diseño:
- Separar el almacenamiento de la presentación — el estado duradero no es lo mismo que lo que aparece en cada llamada a la API
- Transformaciones explícitas — procesadores nombrados y ordenados que transforman el contexto en pasos comprobables y componibles
- Ámbito de contexto por defecto — cada llamada al modelo ve solo la información mínima requerida
Disciplina de ingeniería sobre la elaboración de prompts.
El pipeline universal de turno del agente
Cada plataforma seria converge en el mismo bucle de 5 pasos por turno del agente:
→ Recolectar — entrada del usuario, historial de conversación, resultados de herramientas, documentos recuperados, estado del agente
→ Seleccionar — qué es relevante para este paso dentro del presupuesto de tokens restante
→ Comprimir — resumir, truncar o reestructurar para que quepa en el contexto
→ Ordenar — contenido estable primero (caché), contenido dinámico al final
→ Ensamblar y llamar — contexto final → llamada a la API → obtener salida → repetir
Este es el bucle que se ejecuta dentro de cada agente de producción que hayas usado.
Entenderlo es lo que separa a los constructores que envían agentes confiables de los constructores que se preguntan por qué su agente se vuelve descuidado en el paso 15.
El resumen
La podredumbre de contexto es real y comienza mucho antes de tu límite de contexto.
Las 4 estrategias que lo solucionan:
→ Escribir — persistir información fuera del contexto para que los agentes no olviden
→ Seleccionar — traer solo lo necesario para este paso
→ Comprimir — reducir tokens, mantener el significado, de manera proactiva no reactiva
→ Aislar — contextos separados para trabajos separados, sin contaminación
Los 4 modos de falla a tener en cuenta:
→ Envenenamiento — los datos incorrectos se agravan en cada paso
→ Distracción — un historial largo hace que los agentes repitan en lugar de pensar
→ Confusión — demasiadas herramientas degradan la calidad de las decisiones
→ Choque — las contradicciones producen un comportamiento inconsistente
El KV-cache vale un ahorro de costos de 10x. Pon el contenido estable primero.
El mejor flujo de trabajo: investigar → compactar → planificar → compactar → implementar. Contexto fresco en cada fase.
La ingeniería de contexto no es opcional para el trabajo serio con agentes.
Es el trabajo.
Si esto fue útil:
→ Republica para compartirlo con cada constructor de agentes que conozcas
→ Sigue a @sairahul1 para más sistemas que funcionan mientras duermes
→ Marca esto como favorito — volverás al marco de las 4 estrategias
Escribo sobre IA, construcción de productos y sistemas que realmente funcionan.
