Ir al contenido principal

Costo por solicitud: 26% del tráfico es decisión de IA

16 de noviembre de 20265 min. de leitura
Costo por solicitud: 26% del tráfico es decisión de IA

Un cuarto del tráfico de un gateway en producción ya es decisión, no generación de texto: en octubre de 2026, 26% de las solicitudes fueron a modelos de decisión, que sumaron 0,53% del gasto. El dato desplaza la pregunta. El costo por solicitud de IA, y no el precio por token, es lo que decide la factura.

¿Cómo se midió el índice y dónde se detiene?

El índice mide tráfico anonimizado y agregado de un gateway, por encima de 100 billones de tokens al mes, con serie cerrada en octubre de 2026. El gasto se estima a precios de lista. No es el mercado de IA, ni la factura de quien lee este texto.

El dato viene del índice de producción de noviembre de 2026, publicado por Vercel el 9 de noviembre. Dos límites importan. El perímetro es un gateway, no el mercado. Y el dinero es una estimación a precios de lista, porque el descuento negociado, el contrato anual y el crédito de compromiso no entran en la tabla pública de precios que la fuente usa para estimar el gasto.

Ninguno de los dos invalida la lectura.

Tabla 1. Qué mide el índice y dónde se detiene

QuéUnidadLímite
Solicitudes por clase de modelo% del total de solicitudesSolo el tráfico que pasa por ese gateway
Gasto por clase% del gasto totalEstimado a precios de lista, no es una factura pagada
PeríodoSerie mensual, cerrada en octubre de 2026Publicado el 9 de noviembre de 2026
BaseMás de 100 billones de tokens al mesAgregado y anonimizado, sin vista de la carga de quien lee

Un retrato de mezcla no necesita ser una factura para decir qué parte del volumen y qué parte del dinero ocupa cada clase de modelo. Esa proporción es la que sobrevive al hecho de que los libros sean de un proveedor.

Qué muestra el índice: 26% de las solicitudes y 0,53% del gasto

Los modelos de decisión pasaron de cero en agosto a 26% de todas las solicitudes en octubre, y respondieron por 0,53% del gasto. En el mismo período, las solicitudes de modelo de lenguaje cayeron más de un quinto. Una clase nueva pasó a cargar un cuarto del volumen.

Un modelo de decisión no escribe texto: clasifica, puntúa o elige entre opciones. La clase entró en el gateway a mediados de septiembre y llegó a octubre con 15 modelos de 8 proveedores.

Los tres números del mes:

  1. Los modelos de decisión respondieron por 26% de las solicitudes y 0,53% del gasto, contra cero en agosto.
  2. Las solicitudes de modelo de lenguaje cayeron más de un quinto en el mismo período.
  3. 11% de los equipos de pago usaron un modelo de decisión sin enviar una sola solicitud a un modelo generador de texto.

Ese es el número extraño de la serie. Existe operación de IA en producción que no genera texto alguno, y casi un tercio de los equipos de pago ya usaba un modelo de decisión en producción en octubre.

Tabla 2. Solicitudes contra gasto por clase, octubre de 2026

ClaseParte de las solicitudesParte del gasto
Modelos de decisión26%0,53%
Modelos de lenguaje, embeddings, reranking y medios74% (derivado por resta)99,47% (derivado por resta)
inline-01.png

El gráfico es la pieza entera: un cuarto de las solicitudes y medio punto porcentual del dinero. Quien mira solo el gasto concluye que la decisión es irrelevante; quien mira solo las solicitudes concluye lo contrario.

¿Cuánto cuesta una solicitud de decisión frente a una de generación?

La cuenta cierra un orden de magnitud: una solicitud de decisión cuesta cerca de 66 a 70 veces menos que una solicitud de modelo de lenguaje. La fuente publica que ese costo es aproximadamente un setentavo. Las dos lecturas apuntan al mismo lugar.

La aritmética usa 100 solicitudes y 100 unidades de gasto. La clase de decisión se queda con 26 solicitudes y 0,53 de gasto: 0,53 dividido por 26 da 0,0204 por solicitud. El resto se queda con 74 solicitudes y 99,47: 99,47 dividido por 74 da 1,3442. La razón entre los dos es 65,9, o aproximadamente 66.

Cerca de 66 a 70 veces: los porcentajes están redondeados y el residuo carga embeddings, reranking y medios. Orden de magnitud, no medición.

La segunda cuenta es más estrecha. Casi todo el volumen de solicitudes de decisión fue a Jev, de TypeSafe AI, con casi cuatro veces el volumen de solicitudes de Anthropic. Por cada US$ 1 gastado en Jev, los equipos gastaron US$ 64 en modelos de Anthropic. Cuatro solicitudes por US$ 1 dan US$ 0,25; una por US$ 64 da US$ 64. Con las dos aproximaciones de la fuente, la razón queda en cerca de 1/256.

Tabla 3. Costo por solicitud relativo entre dos rutas

RutaSolicitudesGastoCosto por solicitud
Jev, de TypeSafe AICasi 4 vecesUS$ 1Cerca de US$ 0,25
Modelos de Anthropic1US$ 64Cerca de US$ 64
Razón entre las rutasCerca de 1/256

Con más de dos órdenes de magnitud por solicitud, elegir ruta por la tabla de precio por millón de tokens mide la variable que menos pesa. El modelo que solo devuelve decisiones explica por qué existe la clase; la cuenta de arriba explica por qué cambia la factura.

El costo por solicitud que el precio del token no incluye

El costo de inferencia por solicitud tiene cinco componentes: tokens de entrada y de salida, amplificación por reintento, delta de fallback, operación de la capa de enrutamiento y observabilidad amortizada. La tabla de precio por token cubre el primero e ignora los otros cuatro.

El segundo componente, la amplificación por reintento, es el más ignorado. Cada intento nuevo paga completo, y una solicitud que falla dos veces antes de acertar cuesta tres veces lo que la tabla promete. El costo por intento convierte el reintento en dinero, y el registro tiene que probar los intentos de cada solicitud.

El tercero es el delta de fallback: la diferencia entre respaldo y primaria, aplicada a la fracción de solicitudes que migran. El respaldo rara vez es el más barato, porque existe para el día en que la primaria no responde. Los criterios de fallback de modelo dicen cuándo ocurre la migración; la cuenta dice cuánto cuesta.

El cuarto es el overhead de gateway de LLM: normalización, clasificación de intención, selección de modelo, distribución y failover, con una parte fija y una parte que acompaña el volumen. El quinto es la observabilidad: trazas, evaluaciones y almacenamiento, divididos por las solicitudes del período. Amortizada, parece pequeña; no amortizada, se convierte en una línea de plataforma que nadie asocia a la inferencia.

La fórmula:

costo por solicitud = (t_in × p_in + t_out × p_out) × r + f × delta + c + o

t_in y t_out son tokens de entrada y de salida, p_in y p_out los precios por token de cada ruta, r el número promedio de intentos, f la fracción que cae en el respaldo, delta la diferencia de costo entre respaldo y primaria, c el costo de la capa y o la observabilidad amortizada. Ningún término tiene valor universal.

Tabla 4. Los cinco componentes del costo por solicitud

ComponenteQué entraQuién lo controla
Tokens de entrada y de salidaVolumen consumido por ruta y precio publicadoProveedor del modelo
Amplificación por reintentoCada intento nuevo paga completoIngeniería de aplicación
Delta de fallbackDiferencia entre respaldo y primaria, por la fracción migradaPolítica de disponibilidad
Capa de enrutamientoNormalización, clasificación, selección y failoverOperación de la plataforma
ObservabilidadTrazas, evaluaciones y almacenamiento, amortizadosOperación de la plataforma
inline-02.png

Este artículo convierte mezcla de tráfico en cuenta por solicitud; la latencia, la memoria y el overhead de la capa están en el costo operativo de un gateway de IA.

Por qué la cohorte de adopción cambia el número

La adopción sube con el volumen: poco más de uno de cada cinco equipos por debajo de 10 millones de tokens al mes usa modelo de decisión, casi la mitad entre 100 millones y mil millones, y siete de cada diez por encima de 10 mil millones. Por debajo del primer escalón, la capa tiende a ser costo fijo nuevo.

La escalera describe un umbral. Quien procesa 10 millones de tokens al mes tiene volumen para justificar un clasificador y no tiene volumen para diluir el costo de mantener la capa. La cuenta cambia de signo a medida que crece el denominador.

Tabla 5. Uso de modelo de decisión por cohorte de volumen

Cohorte de tokens al mesEquipos que usaron modelo de decisión
Por debajo de 10 millonesPoco más de uno de cada cinco
Entre 100 millones y mil millonesCasi la mitad
Por encima de 10 mil millonesSiete de cada diez

La concentración de modelos cambia con el tamaño. El 1% que más gasta usa una mediana de 29 modelos distintos. El décimo que menos gasta usa uno.

Vale decir qué sugiere el índice contra la conclusión que vende. El proveedor del gateway vende enrutamiento, y la lectura fácil es que enrutar siempre compensa. La escalera lo desmiente: en la base, la mayoría de los equipos no usa modelo de decisión, y la explicación probable es la aritmética de una carga pequeña y monomodelo, donde la capa nueva cuesta más de lo que devuelve.

La vida media de seis semanas cambia la pregunta

Más de la mitad de las solicitudes de lenguaje de octubre fue a modelos con menos de 60 días, contra menos de tres de cada diez antes de septiembre. La fuente resume el efecto en una expresión: vida media de cerca de seis semanas. Política de ruta congelada, en ese régimen, es una decisión de costo por omisión.

La rotación tiene números propios. Una versión nueva llega cada 61 días en la mediana de la familia, un modelo típico alcanza el pico en cerca de un mes, y cuatro semanas después del pico tres de cada cuatro equipos que lo usaban ya habían migrado. La mitad de los equipos con 10 millones de tokens o más cambió el modelo más usado solo en octubre, y seis de cada diez fueron a otro laboratorio.

Tabla 6. Rotación de modelos en octubre de 2026

IndicadorValor
Solicitudes de lenguaje en modelos con menos de 60 díasMás de la mitad, contra menos de tres de cada diez antes de septiembre
Intervalo entre versiones en la mediana de la familia61 días
Tiempo hasta el pico de uso de un modelo típicoCerca de un mes
Equipos que migraron cuatro semanas después del picoTres de cada cuatro
Equipos con 10 millones de tokens o más que cambiaron el modelo principal en octubreLa mitad
Migración a otro laboratorioSeis de cada diez

El denominador que el comprador mide en enero no es el mismo de marzo. Un precio por token congelado en un contrato de doce meses envejece más rápido que el modelo que describe, y por eso la prueba de abajo repite la medición en 30 días.

La prueba de cinco pasos antes de cerrar la arquitectura de enrutamiento

La prueba usa la propia carga como muestra y lleva cinco pasos: contar solicitudes por clase, calcular el costo completo, medir reintento y failover, comparar el acierto del clasificador en los dos tipos de modelo y repetir en 30 días. Falla si el clasificador no muestra ganancia o si el reintento consume la diferencia.

Cada paso tiene salida verificable y criterio de fallo. Sin los dos, la prueba se convierte en reunión.

  1. Contar solicitudes por clase en siete días, separando decisión, generación, embedding y medios, con traza por llamada. Sin traza de llamada de LLM, el log agregado esconde la clase y el reintento. Falla si el conteo no separa las clases.
  2. Calcular el costo completo por solicitud con los cinco componentes, usando la factura pagada, no la tabla. Falla si el número viene de la página de precios.
  3. Medir la tasa de reintento y la de failover y convertirlas en solicitudes extra. Falla si la amplificación consume la diferencia entre la ruta nueva y la actual.
  4. Correr el clasificador en los dos tipos de modelo sobre una muestra etiquetada de la propia operación y comparar el acierto. Falla si no acierta más que la regla que ya está en el código.
  5. Repetir en 30 días y registrar qué cambió. Falla si la diferencia entre las dos mediciones no tiene causa identificable en la carga, porque eso indica que la medición no capturó lo que cambió en la operación.

La prueba no decide si el enrutamiento de modelos por tarea es bueno. Decide si la ruta que el comprador va a contratar es mejor que la que ya tiene, con su carga. Un fallo es información.

Qué cambia esto para quien compra en Brasil

Para quien paga en real, el costo por solicitud es la unidad que sobrevive al tipo de cambio y a los tributos de importación, porque los dos entran en el mismo denominador. La factura en real con documento fiscal es lo que permite comparar la estimación a precio de lista con el desembolso del mes.

Un precio por token en dólares no dice nada sobre la caja hasta pasar por tipo de cambio, tributos y fecha de pago. El costo por solicitud, medido en la factura que llegó, ya pasó por todo eso. Cambia de moneda. No cambia de lógica. Es la línea que el comprador defiende ante finanzas.

Aquí entra Nexforce Router, como producto de decisión de ruta, no como fuente de ningún número de este artículo. Router expone las principales familias de modelo en una API compatible con la que la aplicación ya consume, con enrutamiento por costo, desempeño, latencia y contexto, failover automático, tope de gasto por clave y traza de cada llamada. El índice es de terceros y no mide Router; Router entrega el lugar donde la política de ruta queda escrita, con dueño y con límite.

Preguntas frecuentes

¿El costo por solicitud sustituye el costo por token?

No lo sustituye, porque las dos cuentas responden preguntas distintas. El costo por token es la materia prima de una ruta; el costo por solicitud es lo que la factura cobra por solicitud, después de reintento, fallback y capa. Las cuentas de 66 a 70 veces y de cerca de 1/256 solo existen por solicitud.

¿El índice sirve para mi carga?

Sirve como referencia de mezcla, no como pronóstico. El 26% de las solicitudes y el 0,53% del gasto describen tráfico agregado de un gateway, estimado a precios de lista. Aplicar esos porcentajes a una empresa concreta solo tiene sentido después de contar las solicitudes por clase en su operación.

¿El modelo de decisión sirve para cualquier etapa?

Sirve para etapas con respuesta discreta, como clasificar, puntuar o elegir entre opciones. No sirve para escribir la respuesta final al cliente. El índice muestra 11% de los equipos de pago usando modelo de decisión sin ninguna solicitud a un modelo generador de texto, lo que indica operaciones completas construidas sobre decisión.

Fuentes y referencias

Fuente primaria consultada el 2026-11-16:

  1. Índice de producción de noviembre de 2026 (Vercel, 2026-11-09): https://vercel.com/blog/ai-gateway-production-index-november-2026

Lectura complementaria, consultada el 2026-11-16:

  1. Costo operativo de un gateway de IA: https://nexforce.ai/es/blog/costo-operativo-gateway-ia-produccion
  2. Costo por intento: https://nexforce.ai/es/blog/costo-por-intento-registro-comprobable
  3. TypeSafe lanza Jev: https://nexforce.ai/es/blog/typesafe-jev-decisiones-calibradas-enrutamiento-llm
  4. Fallback de modelo de IA: https://nexforce.ai/es/blog/fallback-de-modelo-ia-criterios-atencion
  5. Traza de llamada de LLM: https://nexforce.ai/es/blog/rastreo-llamada-llm-auditar-request-token

El índice es mensual y revisa los meses anteriores, así que los porcentajes de esta página pueden cambiar en la próxima edición.

La cuenta que cambia la próxima reunión de arquitectura

El índice no dice que enrutar compense. Dice que una clase nueva responde por un cuarto de las solicitudes con medio punto porcentual del dinero, y que la unidad capaz de explicar esa diferencia es la solicitud, no el token. Quien entra en la reunión con la cuenta por solicitud en la mano discute costo. Quien entra con la tabla de precios discute precio, y sale de la sala creyendo que decidió.

Nexforce

Acelera la eficienciaoperativa de tu negocio

Diseñamos tecnología de nivel global para impulsar escala del negocio

Hablar con un Especialista

Artículos relacionados