Pular para conteúdo principal

Custo por requisição: 26% do tráfego é decisão de IA

16 de novembro de 20265 min. de leitura
Custo por requisição: 26% do tráfego é decisão de IA

Um quarto do tráfego de um gateway em produção já é decisão, não geração de texto: em outubro de 2026, 26% das requisições foram para modelos de decisão, que somaram 0,53% do gasto. O dado desloca a pergunta: o custo por requisição de IA, e não o preço por token, decide a fatura.

Como o índice foi medido e onde ele para?

O índice mede tráfego anonimizado e agregado de um gateway, acima de 100 trilhões de tokens por mês, com série fechada em outubro de 2026. O gasto é estimado a preços de lista. Não é o mercado de IA, nem a fatura de quem lê este texto.

O dado vem do índice de produção de novembro de 2026, publicado pela Vercel em 9 de novembro. Duas limitações importam. O perímetro é um gateway, não o mercado. E o dinheiro é estimativa a preços de lista, porque desconto negociado, contrato anual e crédito de compromisso não entram na tabela pública de preço que a fonte usa para estimar o gasto.

Nenhuma das duas invalida a leitura.

Tabela 1. O que o índice mede e onde ele para

O queUnidadeLimite
Requisições por classe de modelo% do total de requisiçõesSó o tráfego que passa por esse gateway
Gasto por classe% do gasto totalEstimado a preços de lista, não é fatura paga
PeríodoSérie mensal, fechada em outubro de 2026Publicado em 9 de novembro de 2026
BaseAcima de 100 trilhões de tokens por mêsAgregado e anonimizado, sem visão da carga de quem lê

Um retrato de mix não precisa ser uma fatura para dizer qual parcela do volume e qual parcela do dinheiro cada classe de modelo ocupa. É essa proporção que sobrevive ao fato de o livro ser de um fornecedor.

O que o índice mostra: 26% das requisições e 0,53% do gasto

Modelos de decisão saíram de zero em agosto para 26% de todas as requisições em outubro, e responderam por 0,53% do gasto. No mesmo movimento, as requisições de modelo de linguagem caíram mais de um quinto. Uma classe nova passou a carregar um quarto do volume.

Um modelo de decisão não escreve texto: classifica, pontua ou escolhe entre opções. A classe entrou no gateway em meados de setembro e chegou a outubro com 15 modelos de 8 fornecedores.

Os três números do mês:

  1. Modelos de decisão responderam por 26% das requisições e 0,53% do gasto, contra zero em agosto.
  2. Requisições de modelo de linguagem caíram mais de um quinto no mesmo movimento.
  3. 11% dos times pagantes usaram um modelo de decisão sem enviar uma única requisição a um modelo gerador de texto.

Esse é o número estranho da série. Existe operação de IA em produção que não gera texto nenhum, e quase um terço dos times pagantes já usava um modelo de decisão em produção em outubro.

Tabela 2. Requisições contra gasto por classe, outubro de 2026

ClasseFatia das requisiçõesFatia do gasto
Modelos de decisão26%0,53%
Modelos de linguagem, embeddings, reranking e mídia74% (derivado por subtração)99,47% (derivado por subtração)
inline-01.png

O gráfico é a peça inteira: um quarto das requisições e meio por cento do dinheiro. Quem olha só o gasto conclui que a decisão é irrelevante; quem olha só as requisições conclui o contrário.

Quanto custa uma requisição de decisão comparada a uma de geração?

A conta fecha uma ordem de grandeza: uma requisição de decisão custa cerca de 66 a 70 vezes menos que uma requisição de modelo de linguagem. A fonte publica que esse custo é cerca de um setenta avos. As duas leituras apontam para o mesmo lugar.

A aritmética usa 100 requisições e 100 unidades de gasto. A classe de decisão fica com 26 requisições e 0,53 de gasto: 0,53 dividido por 26 dá 0,0204 por requisição. O restante fica com 74 requisições e 99,47: 99,47 dividido por 74 dá 1,3442. A razão entre os dois é 65,9, ou aproximadamente 66.

Cerca de 66 a 70 vezes: os percentuais estão arredondados e o resíduo carrega embeddings, reranking e mídia. Ordem de grandeza, não medida.

A segunda conta é mais estreita. Quase todo o volume de requisições de decisão foi para o Jev, da TypeSafe AI, com quase quatro vezes o volume de requisições da Anthropic. Para cada US$ 1 gasto no Jev, os times gastaram US$ 64 em modelos da Anthropic. Quatro requisições por US$ 1 dão US$ 0,25; uma por US$ 64 dá US$ 64. Com as duas aproximações da fonte, a razão fica em cerca de 1/256.

Tabela 3. Custo por requisição relativo entre duas rotas

RotaRequisiçõesGastoCusto por requisição
Jev, da TypeSafe AIQuase 4 vezesUS$ 1Cerca de US$ 0,25
Modelos da Anthropic1US$ 64Cerca de US$ 64
Razão entre as rotasCerca de 1/256

Com mais de duas ordens de grandeza por requisição, escolher rota pela tabela de preço por milhão de tokens mede a variável que menos pesa. O modelo que só devolve decisões explica por que a classe existe; a conta acima explica por que ela muda a fatura.

O custo por requisição que o preço do token não inclui

O custo de inferência por requisição tem cinco componentes: tokens de entrada e de saída, amplificação por retry, delta de fallback, operação da camada de roteamento e observabilidade amortizada. A tabela de preço por token cobre o primeiro e ignora os outros quatro.

O segundo componente, a amplificação por retry, é o mais ignorado. Cada nova tentativa paga integral, e uma requisição que erra duas vezes antes de acertar custa três vezes o que a tabela promete. O custo por tentativa transforma retry em dinheiro, e o registro precisa provar as tentativas de cada requisição.

O terceiro é o delta de fallback: a diferença entre reserva e primária, aplicada à fração de requisições que migram. A reserva raramente é a mais barata, porque existe para o dia em que a primária não responde. Critérios de fallback de modelo dizem quando a migração acontece; a conta diz quanto ela custa.

O quarto é o overhead de gateway de LLM: normalização, classificação de intenção, seleção de modelo, distribuição e failover, com parte fixa e parte que acompanha o volume. O quinto é a observabilidade: traces, avaliações e armazenamento, divididos pelas requisições do período. Amortizada, parece pequena; não amortizada, vira linha de plataforma que ninguém associa à inferência.

A fórmula:

custo por requisição = (t_in × p_in + t_out × p_out) × r + f × delta + c + o

t_in e t_out são tokens de entrada e de saída, p_in e p_out os preços por token de cada rota, r o número médio de tentativas, f a fração que cai na reserva, delta a diferença de custo entre reserva e primária, c o custo da camada e o a observabilidade amortizada. Nenhum termo tem valor universal.

Tabela 4. Os cinco componentes do custo por requisição

ComponenteO que entraQuem controla
Tokens de entrada e de saídaVolume consumido por rota e preço publicadoFornecedor do modelo
Amplificação por retryCada nova tentativa paga integralEngenharia de aplicação
Delta de fallbackDiferença entre reserva e primária, vezes a fração migradaPolítica de disponibilidade
Camada de roteamentoNormalização, classificação, seleção e failoverOperação da plataforma
ObservabilidadeTraces, avaliações e armazenamento, amortizadosOperação da plataforma
inline-02.png

Este artigo converte mix de tráfego em conta por requisição; a latência, a memória e o overhead da camada estão em custo operacional de um gateway de IA.

Por que a coorte de adoção muda o número

A adoção sobe com o volume: pouco mais de um em cada cinco times abaixo de 10 milhões de tokens por mês usa modelo de decisão, quase metade entre 100 milhões e 1 bilhão, e sete em cada dez acima de 10 bilhões. Abaixo do primeiro degrau, a camada tende a ser custo fixo novo.

A escada descreve um limiar. Quem roda 10 milhões de tokens por mês tem volume para justificar um classificador e não tem volume para diluir o custo de manter a camada. A conta troca de sinal conforme o denominador cresce.

Tabela 5. Uso de modelo de decisão por coorte de volume

Coorte de tokens por mêsTimes que usaram modelo de decisão
Abaixo de 10 milhõesPouco mais de um em cada cinco
Entre 100 milhões e 1 bilhãoQuase metade
Acima de 10 bilhõesSete em cada dez

A concentração de modelos muda com o tamanho. O 1% que mais gasta usa uma mediana de 29 modelos diferentes. O décimo que menos gasta usa um.

Vale dizer o que o índice sugere contra a conclusão que ele vende. O fornecedor do gateway vende roteamento, e a leitura fácil é que rotear sempre compensa. A escada desmente: na base, a maioria dos times não usa modelo de decisão, e a explicação provável é aritmética de carga pequena e mono-modelo, onde a camada nova custa mais do que devolve.

A meia-vida de seis semanas muda a pergunta

Mais da metade das requisições de linguagem de outubro foi para modelos com menos de 60 dias, contra menos de três em cada dez antes de setembro. A fonte resume o efeito em uma expressão: meia-vida de cerca de seis semanas. Política de rota congelada, nesse regime, é decisão de custo por omissão.

A rotatividade tem números próprios. Uma versão nova chega a cada 61 dias na mediana da família, um modelo típico atinge o pico em cerca de um mês, e quatro semanas depois do pico três em cada quatro times que o usavam já migraram. Metade dos times com 10 milhões de tokens ou mais trocou o modelo mais usado só em outubro, e seis em cada dez foram para outro laboratório.

Tabela 6. Rotatividade de modelos em outubro de 2026

IndicadorValor
Requisições de linguagem em modelos com menos de 60 diasMais da metade, contra menos de três em cada dez antes de setembro
Intervalo entre versões na mediana da família61 dias
Tempo até o pico de uso de um modelo típicoCerca de um mês
Times que migraram quatro semanas depois do picoTrês em cada quatro
Times com 10 milhões de tokens ou mais que trocaram o modelo principal em outubroMetade
Migração para outro laboratórioSeis em cada dez

O denominador que o comprador mede em janeiro não é o mesmo de março. Preço por token congelado em contrato de doze meses envelhece mais depressa que o modelo que descreve, e por isso o teste abaixo repete a medição em 30 dias.

O teste de cinco passos antes de fechar a arquitetura de roteamento

O teste usa a própria carga como amostra e leva cinco passos: contar requisições por classe, calcular o custo completo, medir retry e failover, comparar o acerto do classificador nos dois tipos de modelo e repetir em 30 dias. Reprova se o classificador não mostrar ganho ou se o retry consumir a diferença.

Cada passo tem saída verificável e critério de reprovação. Sem os dois, o teste vira reunião.

  1. Contar requisições por classe em sete dias, separando decisão, geração, embedding e mídia, com trace por chamada. Sem trace de chamada de LLM, o log agregado esconde a classe e o retry. Reprova se a contagem não separar as classes.
  2. Calcular o custo completo por requisição com os cinco componentes, usando a fatura paga, não a tabela. Reprova se o número vier da página de preços.
  3. Medir a taxa de retry e a de failover e convertê-las em requisições extras. Reprova se a amplificação consumir a diferença entre a rota nova e a atual.
  4. Rodar o classificador nos dois tipos de modelo sobre uma amostra rotulada da própria operação e comparar o acerto. Reprova se ele não acertar mais que a regra que já está no código.
  5. Repetir em 30 dias e registrar o que mudou. Reprova se a diferença entre as duas medições não tiver causa identificável na carga, porque isso indica que a medição não capturou o que mudou na operação.

O teste não decide se roteamento de modelos por tarefa é bom. Ele decide se a rota que o comprador vai contratar é melhor que a que ele já tem, com a carga dele. Reprovação é informação.

O que isso muda para quem compra no Brasil

Para quem paga em real, o custo por requisição é a unidade que sobrevive ao câmbio e aos tributos da importação, porque os dois entram no mesmo denominador. A fatura em real com nota fiscal é o que permite comparar a estimativa a preço de lista com o desembolso do mês.

Preço por token em dólar não diz nada sobre o caixa até passar por câmbio, tributos e data de pagamento. O custo por requisição, medido na fatura que chegou, já passou por tudo isso. Ele troca de moeda. Não troca de lógica. É a linha que o comprador defende diante de finanças.

É aqui que o Nexforce Router entra, como produto de decisão de rota, não como fonte de número deste artigo. O Router expõe as principais famílias de modelo em uma API compatível com a que a aplicação já consome, com roteamento por custo, desempenho, latência e contexto, failover automático, teto de gasto por chave e trace de cada chamada. O índice é de terceiro e não mede o Router; o Router entrega o lugar onde a política de rota fica escrita, com dono e com limite.

Perguntas frequentes

O custo por requisição substitui o custo por token?

Não substitui, porque as duas contas respondem perguntas diferentes. O custo por token é a matéria-prima de uma rota; o custo por requisição é o que a fatura cobra por requisição, depois de retry, fallback e camada. As contas de 66 a 70 vezes e de cerca de 1/256 só existem por requisição.

O índice vale para a minha carga?

Vale como referência de mix, não como previsão. Os 26% de requisições e os 0,53% de gasto descrevem tráfego agregado de um gateway, estimado a preços de lista. Aplicar esses percentuais a uma empresa específica só faz sentido depois de contar as requisições por classe na operação dela.

Modelo de decisão serve para qualquer etapa?

Serve para etapas com resposta discreta, como classificar, pontuar ou escolher entre opções. Não serve para escrever a resposta final ao cliente. O índice mostra 11% dos times pagantes usando modelo de decisão sem nenhuma requisição a modelo gerador de texto, o que indica operações inteiras construídas sobre decisão.

Fontes e referências

Fonte primária consultada em 2026-11-16:

  1. Índice de produção de novembro de 2026 (Vercel, 2026-11-09): https://vercel.com/blog/ai-gateway-production-index-november-2026

Leitura complementar, consultada em 2026-11-16:

  1. Custo operacional de um gateway de IA: https://nexforce.ai/blog/custo-operacional-gateway-ia-producao
  2. Custo por tentativa: https://nexforce.ai/blog/custo-por-tentativa-ia
  3. TypeSafe lança Jev: https://nexforce.ai/blog/typesafe-jev-decisoes-calibradas-roteamento-llm
  4. Fallback de modelo de IA: https://nexforce.ai/blog/fallback-de-ia-criterios-e-limites
  5. Trace de chamada de LLM: https://nexforce.ai/blog/trace-chamada-llm-auditar-request-token

O índice é mensal e revisa os meses anteriores, então os percentuais desta página podem mudar na próxima edição.

A conta que muda a próxima reunião de arquitetura

O índice não diz que rotear compensa. Ele diz que uma classe nova responde por um quarto das requisições com meio por cento do dinheiro, e que a unidade capaz de explicar essa diferença é a requisição, não o token. Quem entra na reunião com a conta por requisição na mão discute custo. Quem entra com a tabela de preço discute preço, e sai da sala achando que decidiu.

Nexforce

Acelere a eficiênciaoperacional do seu negócio

Nós desenhamos a tecnologia do amanhã para impulsionar a escala do negócio

Falar com Especialista

Artigos relacionados