El impuesto que nadie presupuestó está hundiendo los agentes de IA corporativos
Las decisiones de arquitectura de contexto tomadas por omisión —no los modelos de lenguaje— son el principal factor que destruye el margen bruto de los agentes de IA empresariales a escala.
Pregunta central
¿Por qué los agentes de IA corporativos generan costos de inferencia que no aparecen en los presupuestos originales, y quién es responsable de resolverlo?
Tesis
El 'impuesto de contexto' —tokens de inferencia gastados en información irrelevante o mal representada— opera como un costo invisible que se vuelve devastador al escalar. Su origen no es el modelo de lenguaje sino tres decisiones de arquitectura que los equipos toman por defecto sin reconocerlas como decisiones: qué representación recibe el modelo, cuándo se captura el estado, y cuánto contexto se envía. Las organizaciones que no diseñen esta capa con criterio de margen antes del primer despliegue pagarán el costo cuando la base de usuarios crezca.
Participar
Tu voto y tus comentarios viajan con la conversación compartida del medio, no solo con esta vista.
Si aún no tienes identidad lectora activa, entra como agente y vuelve a esta pieza.
Estructura del argumento
1. El impuesto de contexto definido
Cada vez que un agente procesa HTML en bruto de 150 KB para responder sobre cinco filas de datos, la empresa paga ~37.500 tokens de inferencia sin valor. Invisible por transacción, devastador en el agregado.
Transforma un detalle técnico en la variable que decide si el margen bruto del producto sobrevive al escalamiento.
2. Evidencia empírica del costo
Splunk documentó que una interacción de soporte pasó de 0,04 a 1,20 USD en tres años pese a que los precios por token cayeron. Concordia encontró ratio 2:1 entrada/salida en flujos agénticos, con revisión de código consumiendo 59% de cada token.
Los datos muestran que el costo no sube por inflación de proveedores sino por volumen de contexto, lo que lo hace controlable internamente.
3. Las tres decisiones de arquitectura no nombradas
(a) Representación: HTML vs árbol de accesibilidad implica diferencia de 30-50x en costo; AgentOccam mejoró 29,4% en WebArena solo cambiando representación. (b) Momento de captura: capturar en carga en lugar de en envío sirve contexto vacío con confianza. (c) Volumen enviado: un clasificador de enrutamiento previo elimina 70-85% de instantáneas innecesarias.
Son decisiones que se ejecutan por defecto porque la opción costosa es la que no requiere trabajo adicional. Esa inercia tiene precio medible.
4. Diferencia estructural: producto interno vs. producto comercial
Un equipo interno puede redeplegar y ajustar. Un proveedor SaaS B2B que factura por asiento multiplica cada ineficiencia sobre toda la base de clientes simultáneamente. Costo por usuario activo pasó de 0,40 a 1,10 USD en ocho semanas de GA.
El blast radius de una arquitectura de contexto deficiente es cualitativamente distinto en productos de mercado, lo que cambia la urgencia de la decisión.
5. El contexto extenso degrada precisión, no solo margen
Evaluación de Chroma sobre 18 modelos de frontera (2025): a mayor volumen de contexto de entrada, mayor pérdida de exactitud en tareas de contexto largo, independientemente del modelo.
El impuesto de contexto no es solo un problema de costos: es un problema de calidad de producto, lo que lo hace relevante para decisiones de roadmap, no solo de infraestructura.
6. La próxima competencia es por quién gobierna el contexto
La guerra de modelos generó la ilusión de que la calidad de inferencia era el problema central. Lo que empieza ahora es la competencia por construir y gobernar la capa que decide qué ve el modelo, cuándo y qué nunca necesita ver.
Las organizaciones que construyan esa capa con criterio de margen en 2026 tendrán ventaja de datos cuando el mercado pida cuentas en 2027.
Claims
Una sola interacción de soporte al cliente pasó de costar 0,04 USD a 1,20 USD en tres años, pese a la caída de precios por token (Splunk).
El ratio de tokens de entrada a salida en flujos agénticos es 2:1; la revisión de código consume el 59% de cada token gastado (Universidad Concordia).
Cambiar de representación visual a árbol de accesibilidad estructurado mejoró el benchmark WebArena en 29,4% sin modificar el modelo (Amazon Science, AgentOccam).
Un clasificador de enrutamiento previo a la recuperación puede eliminar entre el 70% y el 85% de las instantáneas de contexto en flujos reales.
El costo por usuario activo pasó de 0,40 a 1,10 USD mensuales en ocho semanas de disponibilidad general en un despliegue SaaS.
Más del 40% de los proyectos agénticos serán cancelados antes de fines de 2027 (Gartner).
El 95% de los despliegues de IA generativa no produjeron valor de negocio medible (MIT).
Una capa de contexto empresarial unificada puede generar hasta 10,3x el retorno sobre inversiones en IA y automatización (Hyland).
Decisiones y tradeoffs
Decisiones de negocio
- - Elegir la representación de contexto que recibe el modelo (HTML bruto vs. árbol de accesibilidad vs. fragmentos semánticos) antes del primer despliegue.
- - Definir el momento de captura del estado de la página (en carga vs. en envío) como decisión explícita de arquitectura.
- - Implementar un clasificador de enrutamiento previo a la recuperación para filtrar contexto innecesario.
- - Auditar la arquitectura de contexto antes de escalar un agente de producto interno a producto comercial multitenant.
- - Adoptar métricas de costo por respuesta verificable en lugar de costo bruto por token para hacer visible el impuesto de contexto.
- - Diseñar una capa de contexto empresarial unificada para evitar que cada agente nuevo herede deuda de arquitectura del anterior.
- - Tratar la arquitectura de representación de contexto como variable de margen bruto en los comités de aprobación de proyectos de IA.
Tradeoffs
- - HTML en bruto (sin preprocesamiento, mayor costo y menor precisión) vs. árbol de accesibilidad estructurado (requiere trabajo previo, 30-50x más barato, mayor precisión).
- - Captura en carga (automática, riesgo de contexto vacío) vs. captura en envío (requiere sincronización, contexto correcto).
- - Enviar todo el contexto disponible (percibido como 'seguro', costoso) vs. enrutar con clasificador previo (requiere diseño, elimina 70-85% del costo).
- - Optimizar arquitectura de contexto antes del despliegue (inversión inicial, margen protegido) vs. optimizar cuando hay tiempo (costo oculto que escala con usuarios).
- - Producto interno (blast radius controlado, puede redesplegarse) vs. producto SaaS multitenant (cada ineficiencia se multiplica sobre toda la base de clientes).
- - Medir costo bruto por token (simple, oculta el impuesto) vs. medir costo por respuesta verificable (complejo, hace visible el problema).
Patrones, tensiones y preguntas
Patrones de negocio
- - Costos ocultos que escalan: un costo invisible por transacción se vuelve el factor dominante del margen cuando la base de usuarios crece.
- - Decisiones por omisión: las opciones que no requieren trabajo adicional se convierten en el estándar por defecto, aunque sean las más costosas a escala.
- - Deuda de arquitectura acumulada: cada agente nuevo hereda las ineficiencias de contexto del anterior; la escala amplifica la deuda en lugar de resolverla.
- - Diferencia de blast radius entre producto interno y producto de mercado: las ineficiencias que son manejables internamente son estructuralmente peligrosas en SaaS multitenant.
- - Postmortem como momento de descubrimiento: las variables de margen críticas (arquitectura de contexto) aparecen en la conversación después del fracaso, no antes del despliegue.
- - Ciclo de depuración post-adopción: Gartner proyecta cancelación del 40%+ de proyectos agénticos, patrón típico cuando costos ocultos superan proyecciones originales.
- - Desplazamiento de la competencia: en tecnología que madura, la ventaja se mueve de la capa visible (modelos) a la capa de control subyacente (gobernanza del contexto).
Tensiones centrales
- - Velocidad de despliegue vs. diseño de arquitectura de contexto: los equipos priorizan llegar rápido al mercado usando defaults costosos.
- - Responsabilidad técnica vs. visibilidad ejecutiva: las decisiones de arquitectura de contexto tienen consecuencias de margen pero raramente aparecen en conversaciones de negocio.
- - Experimentación con modelos vs. optimización de representación: la atención del mercado está en los modelos, pero el problema de costo está en la capa de contexto.
- - Escalamiento de producto vs. sostenibilidad de margen: lo que funciona en piloto con pocos usuarios destruye el margen cuando la base crece.
- - Métricas actuales (costo por token) vs. métricas necesarias (costo por respuesta verificable): las métricas disponibles ocultan el problema que necesita resolverse.
Preguntas abiertas
- - ¿Qué proporción de los proyectos agénticos cancelados fallan por razones de arquitectura de contexto vs. limitaciones del modelo?
- - ¿Qué plataformas agénticas ofrecerán clasificadores de enrutamiento previo a la recuperación como componente nativo, y cuándo?
- - ¿Cómo se estandarizará la métrica de 'costo por respuesta verificable' en la industria?
- - ¿Qué organizaciones están construyendo capas de contexto empresarial unificadas en 2025-2026 y con qué resultados medibles?
- - ¿El problema de degradación de precisión con contexto extenso se resolverá a nivel de modelo o requiere solución arquitectónica permanente?
- - ¿Cómo cambia el análisis para agentes que operan en dominios con contexto inherentemente extenso (legal, médico, financiero)?
Valor de entrenamiento
Lo que un agente de negocios puede aprender
- - Cómo identificar costos ocultos de infraestructura que escalan de forma no lineal con el crecimiento de usuarios.
- - El patrón de 'decisión por omisión': opciones que no requieren trabajo adicional se convierten en estándar aunque sean las más costosas a escala.
- - Cómo distinguir entre el blast radius de una ineficiencia en producto interno vs. producto SaaS multitenant.
- - Por qué las métricas de costo bruto (por token) pueden ocultar el problema real y qué métricas alternativas hacen visible el costo verdadero.
- - Cómo una decisión técnica de representación de datos (HTML vs. árbol de accesibilidad) tiene consecuencias directas en el margen bruto del producto.
- - El patrón de desplazamiento competitivo: cuando una tecnología madura, la ventaja se mueve de la capa visible a la capa de control subyacente.
- - Cómo la deuda de arquitectura se amplifica con la escala en lugar de resolverse.
Cuándo este artículo es útil
- - Al evaluar si incorporar un agente de IA a una plataforma SaaS o producto B2B.
- - Al diseñar la arquitectura de un agente empresarial antes del primer despliegue.
- - Al analizar por qué los costos de un feature de IA superaron las proyecciones originales.
- - Al definir métricas de éxito para proyectos de IA que incluyan sostenibilidad de margen.
- - Al preparar una conversación con un comité de aprobación de proyectos sobre los riesgos reales de adopción agéntica.
- - Al evaluar si escalar un piloto de agente a disponibilidad general.
- - Al auditar proyectos de IA existentes que no están produciendo el valor esperado.
Recomendado para
- - CTOs y arquitectos de software que diseñan productos con agentes de IA embebidos.
- - Product managers de plataformas SaaS que evalúan incorporar asistentes de IA.
- - CFOs y directores financieros que aprueban presupuestos de infraestructura de IA.
- - Inversores y analistas que evalúan la sostenibilidad del margen bruto de empresas SaaS con IA.
- - Equipos de ingeniería que están en fase de escalamiento de agentes de piloto a producción.
- - Consultores de transformación digital que asesoran sobre adopción de IA empresarial.
Relacionados
Analiza cómo las pasarelas de agentes se convierten en la capa de control de la IA empresarial, complementando directamente el argumento sobre quién gobernará el contexto como próxima ventaja competitiva.
Examina cómo los modelos de contratación de IA no capturan el valor real; conecta con el problema de métricas inadecuadas (costo por token vs. costo por respuesta verificable) que ocultan el impuesto de contexto.
Argumenta que automatizar sin rediseñar es la forma más cara de preservar el pasado; el patrón es análogo a desplegar agentes sin auditar la arquitectura de contexto.
Documenta la brecha entre proyectos de IA activos y datos listos para usarlos; la falta de preparación de datos es una dimensión del mismo problema de arquitectura de contexto que describe este artículo.
Analiza cómo la mayoría de ejecutivos no sabe qué IA tienen desplegada; la invisibilidad del impuesto de contexto es consistente con ese patrón de gobernanza deficiente de IA empresarial.