AI Inference Economics: cuando ejecutar la IA cuesta más que crearla

La paradoja es nueva. Durante tres años, la conversación pública sobre inteligencia artificial se ha centrado en lo espectacular. El foco estaba en el coste de entrenar el próximo modelo frontera, las GPUs o las grandes rondas de financiación. Sin embargo, la economía real de la IA se ha desplazado a otro lugar: el coste de inferencia IA, que es, en definitiva, el punto exacto donde se decide si un producto es viable o no.

Coste de inferencia IA: el dato que lo cambia todo

En 2024, por ejemplo, OpenAI gastó aproximadamente 2.300 millones de dólares en cómputo de inferencia, es decir, quince veces lo que costó entrenar GPT-4.5. Quince.

Así, lo que hasta hace poco era una inversión puntual, amortizable en varios años como una fábrica, se ha convertido en una factura que llega cada mes y crece con cada usuario nuevo. Además, Deloitte estima que la inferencia representará dos tercios de todo el cómputo de IA en 2026. Además, prevé que el gasto cloud destinado a inferencia supere este año al de entrenamiento. La cifra: 20.600 millones de dólares.

De hecho, el Stanford AI Index lo lleva aún más lejos: entre el 80% y el 90% del coste total del ciclo de vida de un sistema de IA en producción corresponde a inferencia.

El entrenamiento es CAPEX. La inferencia es OPEX perpetuo. Y es donde se destruye margen.

Gráficos que muestran el peso del coste de inferencia IA sobre el cómputo total de la IA en 2026 y el consumo de tokens por tipo de interacción y su efecto en el coste de inferencia IA

La trampa: el coste cae, la factura sube

Sin embargo, aquí es donde la mayoría de comités de dirección se equivocan al evaluar el coste de inferencia IA. Miran el precio por token y, al ver que cae en picado —de 20 dólares por millón de tokens en 2022 a 0,07 dólares en 2026, tres órdenes de magnitud en 36 meses—, respiran tranquilos. Error.

Por ejemplo, Goldman Sachs proyecta que el consumo global de tokens se multiplicará por 24 entre 2026 y 2030, hasta 120 cuatrillones de tokens al mes. Así, cuando el coste unitario cae un 50% al año pero el volumen se multiplica por diez, la factura no baja: se dispara. Es la paradoja de Jevons aplicada a la inteligencia artificial: cuanto más barato es cada token, más tokens se consumen y, en consecuencia, el resultado neto es un coste de inferencia IA mayor, no menor.

IA agentic: el multiplicador del coste de inferencia IA

Además, sobre esa base ya exigente se superpone un vector que casi ningún CFO tiene en su hoja de cálculo: la IA agentic.

Por ejemplo, un chatbot tradicional consume una unidad de tokens por interacción, mientras que un agente sencillo, según Signal65, consume entre 4 y 15 veces más. Incluso, un workflow agentic complejo —de los que planifican, invocan herramientas externas y lanzan subagentes en paralelo— puede multiplicar esa cifra por mil según McKinsey. Mil.

Asimismo, Gartner ya traduce esa presión en cifras: el gasto en IaaS optimizada para IA crecerá un 96% en 2026, hasta 42.276 millones de dólares. Además, Morgan Stanley añade que la orquestación agentic sumará entre 32.500 y 60.000 millones en nueva demanda de CPU hacia 2030. Ojo al matiz: se trata de nueva demanda de CPU, no de GPU, es decir, un vector de coste que se suma, no que sustituye, al coste de inferencia IA ya existente.

Ilustración del coste de inferencia IA como nuevo centro de gravedad de la inteligencia artificial

La infraestructura de ayer no aguanta el producto de mañana

Así, el diagnóstico de Deloitte Tech Trends 2026 es directo. Las empresas descubren al pasar de piloto a producción que su infraestructura no está preparada para el nuevo coste de inferencia IA. Del mismo modo, F5, añade otro reto para el mercado ibérico. Sin baja latencia, costes controlados y seguridad, será difícil escalar agentes de IA en procesos críticos.

De hecho, los movimientos del ecosistema confirman el pivote. En el primer trimestre de 2026, por ejemplo, Cisco, Dell, HPE y Nvidia lanzaron actualizaciones de inferencia IA en redes de acceso radio, con acuerdos con AT&T y T-Mobile para desplazar capacidad al edge. Dell presentó en su Technologies World el marco de la «AI-native enterprise», siendo uno de sus principios especialmente claro: disciplina en la economía del token.

El debate ya no es técnico. También es una cuestión de arquitectura empresarial y de agenda estratégica de los consejos de administración.

Qué implica el coste de inferencia IA para banca y seguros

Para los sectores donde trabajamos, el reto tiene, en concreto, tres capas superpuestas.

Gobierno del gasto

Los responsables de FinOps describen el coste de inferencia IA como «el problema del cloud computing otra vez». Así, cada copiloto departamental, cada agente de suscripción y cada asistente de siniestros consume tokens de forma continua. Por eso, sin observabilidad granular por caso de uso, el margen se erosiona sin diagnóstico.

Soberanía y latencia

La ejecución local baja la latencia de 800–1.200 ms (API cloud) a menos de 10 ms y, además, resuelve por diseño requisitos de GDPR, secreto bancario y datos de salud. Por ejemplo, en detección de fraude o asistencia conversacional, esa diferencia de coste de inferencia IA define si el caso de uso existe o no.

Arquitectura de decisión

La pregunta ya no es «¿qué modelo elegimos?», sino «¿qué combinación de modelos, en qué capa, con qué enrutamiento y límites de coste por interacción?». Por consiguiente, exige comités que hoy no existen en la mayoría de organizaciones.

El nuevo momento de verdad económico de la IA

La conversación estratégica tiene que cambiar. De «qué IA vamos a usar» a «cuánto nos cuesta cada vez que la usamos». Del modelo a la capa de ejecución. Del titular de entrenamiento a la línea de OPEX.

Las organizaciones que en los próximos doce meses no separen entrenamiento e inferencia en sus presupuestos, no midan coste por interacción de negocio y no rediseñen su capa de ejecución para agentes descubrirán tarde una verdad incómoda. Su ventaja competitiva estaba condicionada por una economía de token que ya no se sostiene.

El momento de verdad económico ocurre cuando el CFO abre la factura mensual de inferencia. Ese momento se está diseñando ahora.

Sobre Nosotros

Documento elaborado por Vecdis, empresa de investigación y consultoría especializada en innovación. Monitorizamos más de 10.000 fuentes de información para detectar las tendencias del futuro y convertirlas en las oportunidades del presente.