Tu agente de IA funciona muy bien durante los primeros 10 pasos.
Pero alrededor del paso 15, empieza a volverse descuidado.
Llamadas a herramientas incorrectas. Olvida tus instrucciones originales. Resultados de baja calidad.
La mayoría culpa al modelo.
Casi nunca es culpa del modelo.
Es lo que el modelo está viendo.
Organizar lo que el modelo ve se llama ingeniería de contexto.
Se está convirtiendo rápidamente en la habilidad más importante para cualquiera que construya agentes de IA.
Aquí tienes el manual completo.
La ingeniería de prompts ha muerto. La ingeniería de contexto es lo que importa ahora.
Has oído hablar de la ingeniería de prompts.
Escribir instrucciones claras. Buenos ejemplos. Decirle al modelo qué rol interpretar.
Eso funciona perfectamente para un chatbot.
Deja de funcionar en cuanto construyes un agente.
He aquí por qué.
Un chatbot responde una pregunta y se detiene.
Un agente realiza acciones — navegar por la web, llamar APIs, escribir código, ejecutar comandos — paso tras paso tras paso, a veces durante docenas de pasos.
Cada paso produce resultados que se añaden al contexto del modelo.
Y ese contexto es finito.
El equipo de ingeniería de Anthropic lo define así:
"El contexto es el conjunto de tokens incluidos cuando muestreas un LLM. La ingeniería de contexto consiste en optimizar la utilidad de esos tokens para lograr consistentemente un resultado deseado."
En pocas palabras: asegúrate de que tu agente vea la información correcta, en el formato correcto, en el momento correcto.
La ingeniería de prompts es un subconjunto de la ingeniería de contexto.
La ingeniería de contexto lo es todo.
La ventana de contexto de tu agente es la RAM. Y se está llenando.
LangChain tiene la analogía correcta para esto.
Piensa en un LLM como un nuevo tipo de sistema operativo.
El modelo es la CPU — hace el pensamiento.
La ventana de contexto es la RAM — la memoria de trabajo donde reside todo lo que el modelo puede ver y razonar actualmente.
Igual que tu computadora se ralentiza cuando la RAM se llena, el razonamiento de tu agente se degrada cuando la ventana de contexto se satura.
Esto se llama deterioro del contexto.
Chroma realizó un estudio evaluando 18 modelos frontera — GPT-4.1, Claude 4, Gemini 2.5, Qwen3 y otros.
El rendimiento de todos los modelos se degradó a medida que aumentaba la longitud de entrada.
No en el límite máximo. Mucho antes.
Un modelo con una ventana de 200K tokens puede mostrar una degradación significativa en 50K tokens.
La disminución es continua. No es un acantilado.
¿Por qué? Los transformers funcionan haciendo que cada token atienda a todos los demás tokens — creando relaciones n-cuadradas. A medida que el contexto crece, la capacidad del modelo para mantener todas esas relaciones se debilita.
Y luego está el problema de "Perdido en el Medio".
Los LLMs muestran una curva de atención en forma de U.
→ Inicio del contexto: se recuerda bien
→ Final del contexto: se recuerda bien
→ Medio: en gran parte ignorado
Los investigadores midieron una caída de precisión de más de 30 puntos porcentuales cuando la información relevante se movía del inicio al medio del contexto.
Tus instrucciones originales — enterradas bajo 50,000 tokens de resultados de herramientas — desaparecen efectivamente.
Los usuarios de Claude Code han descubierto que la calidad de los resultados se degrada al 40–60% de la capacidad del contexto. Mucho antes de cualquier límite máximo.
Qué está compitiendo realmente por el espacio en el contexto de tu agente
7 categorías. Todas luchando por la misma ventana finita.
1. Prompt del sistema
La identidad del agente. Reglas de comportamiento. Lógica de flujo de control. Instrucciones para diferentes tipos de tareas. En un agente, no es solo "sé útil". Puede definir toda la arquitectura.
2. Definiciones de herramientas
Cada herramienta que el agente podría llamar necesita un esquema que describa qué hace, qué parámetros toma y cuándo usarla.
3. Resultados de llamadas a herramientas
Cada llamada a herramienta añade su resultado al contexto. Una recuperación de página web: 5,000–10,000 tokens. Una lectura de archivo: similar. Estos se acumulan rápido.
4. Conocimiento recuperado (RAG)
Documentos extraídos de bases de datos vectoriales, resultados de búsqueda, respuestas de APIs — cualquier cosa recuperada para informar las decisiones del agente.
5. Historial de conversación
La transcripción completa de todo lo que ha ocurrido. Mensajes del usuario, respuestas del agente, razonamientos, decisiones previas. Crece linealmente con cada turno.
6. Memoria
Memoria a corto plazo de la sesión actual. Memoria a largo plazo de sesiones anteriores — preferencias del usuario, resultados previos, patrones aprendidos.
7. Estado del agente
Plan actual, lista de tareas pendientes, marcadores de progreso, notas del bloc de borrador. La meta-información que rastrea dónde está el agente en una tarea multi-paso.
Los 7 compitiendo por la misma ventana.
La ingeniería de contexto consiste en decidir qué gana.
Las 4 Estrategias Principales
LangChain publicó el marco que organiza cada técnica de ingeniería de contexto en 4 categorías.
Cada técnica que aprenderás encaja en una de estas.
Escribe. Selecciona. Comprime. Aísla.
Estrategia 1 — Escribe (Los agentes olvidan. Dales una forma de recordar.)
Cuando el contexto de un agente se llena y se compacta, pierde información.
Si el agente no escribió nada antes de que eso ocurriera — esa información se pierde para siempre.
Escribe significa darle al agente formas de persistir información fuera de la ventana de contexto.
Tres formas:
Blocs de borrador
Dale al agente una herramienta que le permita tomar notas durante una tarea. Hallazgos intermedios. Decisiones tomadas. Información que sabe que necesitará después.
Anthropic construyó una herramienta "piensa" — un espacio dedicado para que Claude resuelva problemas.
En el benchmark tau-bench, esto mejoró el rendimiento hasta en un 54% en ciertas tareas.
Archivos de reglas
Memoria procedimental persistente.
Si has usado Claude Code, has visto CLAUDE.md.
Instrucciones cargadas al inicio de cada sesión — arquitectura del proyecto, convenciones, cómo ejecutar pruebas, qué tener cuidado.
El agente lo lee cada vez que comienza.
Nunca olvida lo fundamental.
Extracción de memoria
El agente guarda hechos, preferencias del usuario y patrones aprendidos para poder recuperarlos entre sesiones.
Vive completamente fuera de la ventana de contexto.
La información que el agente necesita mañana está allí esperando cuando llegue mañana.
Estrategia 2 — Selecciona (No le des todo al agente. Dale lo que necesita en este momento.)
Un agente con 40 herramientas, una gran base de conocimiento y varias sesiones de historial no puede cargar todo eso a la vez.
Algo tiene que decidir qué es relevante para este paso.
RAG tradicional: el sistema decide.
El usuario pregunta → recupera documentos → los mete en el prompt → listo.
Estático. De un solo disparo. El modelo no tiene voz.
RAG agentiva: el agente decide. Busca lo que necesita, refina consultas, selecciona herramientas, determina cuándo tiene suficiente información.
Recuperación como un proceso iterativo, no un pipeline de un solo disparo.
Esto importa porque lo relevante cambia en cada paso — y solo el agente sabe qué necesita a continuación.
El problema de selección de herramientas es el que más tropieza a la gente.
Si tu agente tiene 40 herramientas o más, eso son potencialmente 10,000 tokens de definiciones de herramientas en el contexto antes de que comience cualquier trabajo.
La solución: RAG sobre descripciones de herramientas.
En lugar de volcar todas las definiciones de herramientas en cada llamada, usa búsqueda semántica para mostrar solo las herramientas relevantes para el paso actual.
Un artículo llamado RAG-MCP probó esto.
Precisión en la selección de herramientas: 14% → 43% (mejora de 3x). Uso de tokens: reducido aproximadamente a la mitad.
Anthropic lo llama una estrategia híbrida: carga el contexto esencial al inicio (como CLAUDE.md), deja que el agente haga recuperación justo a tiempo para todo lo demás.
Carga lo básico al inicio. Recupera el resto bajo demanda.
Estrategia 3 — Comprime (El contexto se acumula. Mantén el significado, reduce los tokens.)
Incluso con una buena selección, el contexto se acumula.
Cada llamada a herramienta, documento recuperado y decisión permanece en la ventana.
Imagina que tu agente ha hecho 20 llamadas a herramientas.
Contexto: 80,000 tokens de resultados acumulados de herramientas, historial de conversación, trazas de razonamiento.
La mayor parte ya no es relevante. El agente ya actuó sobre ello.
Pero sigue ahí, ocupando espacio, degradando la atención, aumentando el costo y la latencia.
Puedes comprimir en 3 puntos.
Antes de que la información entre al contexto:
→ Divide documentos grandes en fragmentos coherentes antes de la recuperación
→ Reordena para que solo entren los fragmentos más útiles
→ Resume los resultados de herramientas sobre la marcha antes de que entren al contexto principal
Mientras el agente está trabajando:
→ Resumen continuo del historial de conversación — actualizado permanentemente
→ Híbrido popular: mantén los últimos 10 mensajes textuales + resume todo lo anterior
→ Recorte duro: elimina mensajes antiguos una vez que el contexto alcanza un umbral de tamaño
→ Auto-compactación de Claude Code: se activa al 95% de capacidad, resume automáticamente toda la trayectoria
Después de que el agente ha actuado sobre algo:
→ Limpieza de resultados de herramientas: una vez que un resultado de herramienta se usó hace 15 pasos, elimínalo
→ Reemplázalo con un resumen de una línea o elimínalo por completo
→ El agente no necesita el texto completo de una página web que obtuvo hace 20 pasos
El objetivo: reducir el recuento de tokens. Preservar lo que realmente importa.
Estrategia 4 — Aísla (La estrategia más poderosa. Permite sistemas multi-agente.)
Aquí está el problema más profundo con las ejecuciones largas de agentes.
No es solo el espacio. Es la contaminación.
Las búsquedas detalladas de archivos de la fase de investigación siguen en el contexto cuando el agente pasa a escribir código.
Ese contexto de investigación antiguo ahora es ruido. Está distrayendo al modelo durante una fase en la que necesita concentrarse en una implementación limpia.
Aislar significa darle a diferentes partes del trabajo sus propias ventanas de contexto separadas.
Subagentes
Un agente padre delega una subtarea enfocada — "busca en el código base todos los archivos relacionados con autenticación" — a un subagente.
El subagente trabaja en su propia ventana de contexto limpia.
Cuando informa, devuelve solo un resumen condensado.
Todas las operaciones de búsqueda desordenadas permanecen aisladas en el contexto del subagente y nunca contaminan al padre.
Aislamiento de esquema de estado (enfoque de LangGraph)
Diseña el estado del agente para que diferentes campos almacenen diferentes tipos de contexto.
El LLM solo ve los campos relevantes para el paso actual.
Los resultados de herramientas residen en un campo "entre bastidores" — invisible para el modelo hasta que se muestran explícitamente.
Control detallado sobre lo que el agente ve en cada paso sin necesidad de crear subagentes separados.
El aislamiento es lo que hace que los flujos de trabajo multi-paso complejos sean realmente fiables.
Trabajos diferentes. Ventanas de contexto diferentes. Sin contaminación.
4 Formas en que Fracasan los Agentes (Nombra el fallo. Arrégialo.)
Drew Breunig identificó cuatro modos de fallo distintos a medida que crece el contexto del agente.
Cada agente roto que hayas visto cae en uno de estos.
Fallo 1: Envenenamiento del contexto
Una alucinación o error entra en el contexto.
El agente lo referencia una y otra vez en pasos posteriores.
Los datos malos del paso 5 se acumulan en cada paso posterior.
Solución: Valida los resultados de las herramientas antes de que entren al contexto. Después de recuperarte de un error, comprime el historial del intento fallido. No dejes 10 pasos de depuración sin salida visibles cuando solo importa la resolución.
━━━
Fallo 2: Distracción del contexto
El contexto se vuelve tan largo que el modelo empieza a depender demasiado del historial reciente.
En lugar de sintetizar un plan novedoso, simplemente repite lo que hizo recientemente.
Deja de pensar. Empieza a repetir.
Solución: Resume y poda agresivamente. Incluso cuando tengas una ventana de contexto grande disponible. Ventana grande no significa llenarla.
━━━
Fallo 3: Confusión del contexto
El contenido superfluo lleva al modelo a decisiones de baja calidad.
Ejemplo clásico: un modelo fallando en un benchmark cuando se le dan 46 herramientas — aunque el contexto estaba dentro de los límites — pero funcionando bien con solo 19 herramientas.
Las herramientas no eran demasiadas para que el contexto las contuviera.
Eran demasiadas para que el modelo razonara claramente sobre ellas.
Solución: Gestión dinámica de herramientas. Usa RAG-MCP para mostrar solo las herramientas relevantes para el paso actual. Mantén el conjunto de herramientas acorde con la fase actual.
━━━
Fallo 4: Choque de contexto
Nueva información contradice algo ya presente en el contexto.
El prompt del sistema dice una cosa. Un documento recuperado dice algo diferente.
El agente no puede reconciliar la contradicción. Produce un comportamiento inconsistente.
Solución: Establece un orden de autoridad claro. Prompt del sistema > hechos recuperados > historial de conversación. Valida la nueva información contra el contexto existente antes de inyectarla. Usa etiquetas XML y encabezados claros para que el modelo sepa qué fuente debe confiar.
Cómo Escribir Prompts del Sistema para Agentes (No para chatbots. Para agentes.)
El prompt del sistema de un chatbot establece un tono.
"Eres un asistente útil. Sé conciso y amigable."
El prompt del sistema de un agente define la arquitectura.
Especifica el flujo de control — cómo abordar los tipos de tareas, qué herramientas usar cuándo, qué hacer en caso de errores, qué barreras de seguridad seguir.
Está más cerca de escribir una descripción del puesto para un empleado autónomo que de un prompt de personalidad.
Anthropic lo llama escribir a la "altura correcta".
Demasiado prescriptivo: "Si el usuario menciona facturación Y menciona un reembolso Y el monto es superior a $100, llama a la herramienta X." Frágil. Se rompe en cada caso límite que no anticipaste.
Demasiado vago: "Sé útil y usa las herramientas adecuadas." No le da nada al agente. No puede tomar buenas decisiones autónomas sin señales concretas.
El punto óptimo: Lo suficientemente específico para guiar el comportamiento autónomo. Lo suficientemente flexible para que el modelo aplique su juicio en situaciones novedosas. Heurísticas sólidas. No reglas rígidas.
Consejos prácticos:
→ Organiza con etiquetas XML o encabezados Markdown — Antecedentes, Instrucciones, Guía de herramientas
→ Empieza con un mínimo y itera sobre los fallos — no intentes anticipar todos los casos límite de antemano
→ Mínimo no significa corto — el prompt del sistema de un agente complejo puede tener miles de tokens y está bien siempre que cada token gane su lugar
→ Usa ejemplos few-shot — muestra al agente cómo es un buen comportamiento en lugar de intentar describir cada regla con palabras
El KV-cache: La razón de $$$ para preocuparse por el orden del contexto
La mayoría de los constructores de agentes no saben que esto existe.
Cuando envías tokens a un LLM, el modelo calcula representaciones clave-valor para cada token.
Computacionalmente costoso.
Por lo tanto, los proveedores de inferencia almacenan en caché estas representaciones.
Si el inicio de tu contexto — el prefijo — se mantiene igual entre llamadas a la API, el proveedor reutiliza el cómputo en caché y solo procesa los nuevos tokens al final.
Rápido. Barato.
Pero si reorganizas o cambias la parte temprana de tu contexto entre llamadas — invalidas el caché. El proveedor recalcula todo desde cero.
La diferencia de costo en Claude Sonnet:
→ Tokens de entrada en caché: $0.30 por millón
→ Tokens de entrada no cacheados: $3.00 por millón
Diferencia de 10x.
Para un agente que hace 30–40 llamadas a la API por tarea, esto se acumula rápidamente.
Reglas prácticas para la eficiencia del KV-cache:
→ El contenido estable va al PRINCIPIO del contexto — prompt del sistema, definiciones de herramientas, cualquier cosa que no cambie entre turnos
→ El contenido dinámico va al FINAL — historial de conversación, paso actual, estado del agente
→ No agregues ni elimines herramientas dinámicamente en medio de una conversación — invalida el caché
→ Usa enmascaramiento de herramientas en lugar de eliminación de herramientas — mantén todas las definiciones de herramientas estables en el prefijo (en caché), solo márcalas como no disponibles para la fase actual
El Flujo de Trabajo Que Entrega 35,000 Líneas de Código en 7 Horas
Dex Horthy (CEO de HumanLayer) presentó esto en la Cumbre de Código de Ingenieros de IA.
Su equipo supuestamente lo usó para entregar ~35,000 líneas de código a una gran base de código Rust en una sola sesión de 7 horas.
El método: Compactación Intencional Frecuente.
Estructura el trabajo del agente en fases. Cada fase produce un artefacto compactado. Cada nueva fase comienza con una ventana de contexto nueva que contiene solo ese artefacto.
Mantente deliberadamente por debajo del 40–60% de la ventana de contexto en todo momento.
Fase 1 — Investigación
Los subagentes exploran la base de código. Leen archivos. Rastrean flujos de datos. Mapean la arquitectura.
Todos los resultados desordenados de grep y contenidos de archivos se quedan en los contextos de los subagentes. Nunca tocan al padre. (Aísla)
Salida: un research.md compacto — rutas de archivos, firmas de funciones, patrones, trampas. (Escribe)
Restablecimiento del contexto: la investigación en bruto usaba el 60–80% de la ventana. El artefacto de investigación lo comprime al 15–20%. (Comprime)
Fase 2 — Planificación
Nueva ventana de contexto. Contiene solo: documento de investigación + definición del problema.
El agente produce un plan de implementación detallado.
Este es el punto de revisión humano más importante.
Detecta errores de lógica aquí, donde arreglarlos es fácil y gratuito. Más tarde cuesta horas.
Fase 3 — Implementación
Otra ventana de contexto nueva. Contiene solo: el plan.
El agente lo sigue paso a paso.
Para tareas complejas: un progress.md rastrea lo que se ha completado y lo que queda. (Escribe)
El resultado: un agente limpio y enfocado en cada fase. Sin contaminación. Sin deterioro del contexto. Sin "paso 20 descuidado".
Cómo las Mejores Plataformas Manejan Esto de Manera Diferente
Claude Code
Recuperación híbrida. CLAUDE.md se carga al inicio. Herramientas como glob y grep manejan la navegación justo a tiempo por la base de código.
Auto-compactación al 95% — preserva las decisiones arquitectónicas y los 5 archivos de acceso más reciente.
Puede generar subagentes para subtareas complejas, cada uno con su propia ventana de contexto limpia.
Filosofía: "haz lo más simple que funcione". Deja que el modelo sea inteligente sobre lo que necesita y dale herramientas para encontrarlo.
Manus
Ordenamiento del contexto consciente del KV-cache: prefijo estable, sufijo dinámico. Enmascaramiento de herramientas, no eliminación.
Pipeline de compresión de observaciones: cada resultado de herramienta se procesa antes de entrar al contexto del agente.
Lista de tareas pendientes persistente para el seguimiento del estado.
Sistema de archivos como memoria de desbordamiento para el contexto expulsado.
Construido para escalar. Sirviendo a cientos de miles de usuarios donde la eficiencia es un problema de costo de negocio.
ChatGPT Agent
Enfoque visual primero. El agente interactúa con un navegador GUI.
Capturas de pantalla añadidas al contexto como instantáneas visuales. El modelo razona sobre lo que ve.
Los tokens visuales son costosos, por lo que el agente es selectivo con el número de capturas.
Usa RL para aprender estrategias óptimas de uso de herramientas a través de miles de máquinas virtuales en lugar de programarlas explícitamente.
Google ADK
El enfoque arquitectónico más fundamentado.
Tres principios de diseño:
- Separa el almacenamiento de la presentación — el estado duradero no es lo mismo que lo que aparece en cada llamada a la API.
- Transformaciones explícitas — procesadores nombrados y ordenados que transforman el contexto en pasos comprobables y componibles.
- Limita el contexto por defecto — cada llamada al modelo ve solo la información mínima requerida.
Disciplina de ingeniería sobre la elaboración de prompts.
El pipeline universal de turno de agente
Toda plataforma seria converge en el mismo bucle de 5 pasos por turno de agente:
→ Recolecta — entrada del usuario, historial de conversación, resultados de herramientas, documentos recuperados, estado del agente
→ Selecciona — lo relevante para este paso dentro del presupuesto de tokens restante
→ Comprime — resume, trunca o reestructura para que quepa en el contexto
→ Ordena — contenido estable primero (caché), contenido dinámico al final
→ Ensambla + llama — contexto final → llamada a la API → obtén salida → bucle
Este es el bucle que se ejecuta dentro de cada agente de producción que hayas usado.
Entenderlo es lo que separa a los constructores que envían agentes fiables de los constructores que se preguntan por qué su agente se vuelve descuidado en el paso 15.
El resumen
El deterioro del contexto es real y comienza mucho antes de tu límite de contexto.
Las 4 estrategias que lo solucionan:
→ Escribe — persiste información fuera del contexto para que los agentes no olviden
→ Selecciona — trae solo lo necesario para este paso
→ Comprime — reduce tokens, mantén el significado, de forma proactiva no reactiva
→ Aísla — contextos separados para trabajos separados, sin contaminación
Los 4 modos de fallo a vigilar:
→ Envenenamiento — los datos malos se acumulan en cada paso
→ Distracción — el historial largo hace que los agentes repitan en lugar de pensar
→ Confusión — demasiadas herramientas degrada la calidad de las decisiones
→ Choque — las contradicciones producen un comportamiento inconsistente
El KV-cache vale un ahorro de costos de 10x. Pon el contenido estable primero.
El mejor flujo de trabajo: investiga → compacta → planifica → compacta → implementa. Contexto nuevo en cada fase.
La ingeniería de contexto no es opcional para el trabajo serio con agentes.
Es el trabajo.
Si te fue útil:
→ Republica para compartirlo con cada constructor de agentes que conozcas
→ Sigue a @sairahul1 para más sistemas que funcionan mientras duermes
→ Marca esto como favorito — volverás al marco de las 4 estrategias
Escribo sobre IA, construcción de productos y sistemas que realmente funcionan.
