Defina a unidade que tem valor para o negócio
Escolha uma tarefa observável, como classificar um chamado, extrair campos de um documento ou concluir uma consulta de suporte. Uma tarefa pode exigir várias chamadas. Se você medir apenas a primeira, perderá custo de recuperação, correção e repetição.
Defina também o que significa concluir com qualidade. Classificar cem chamados custa pouco se você ignora que muitos precisam ser refeitos. A métrica útil combina gasto e aceitação: custo total das execuções dividido pela quantidade de tarefas que atenderam ao critério definido.
Registre preços e condições com data
Consulte a tabela oficial para os modelos e ferramentas realmente usados. Registre moeda, unidade de cobrança, modalidade e data da consulta. A documentação diferencia categorias como entrada, saída, uso de ferramentas e armazenamento; as categorias aplicáveis dependem do desenho da aplicação.
Não copie uma tarifa encontrada em um artigo antigo para uma planilha permanente. Guarde o endereço da fonte e mantenha preços como parâmetros atualizáveis. Recursos com cobrança própria precisam de linhas separadas para que uma mudança de arquitetura não desapareça dentro da média de tokens.
Monte a conta sem contar a mesma entrada duas vezes
Para texto, uma estrutura inicial é: tokens de entrada sem cache multiplicados pela tarifa correspondente, mais tokens de entrada com cache multiplicados por sua tarifa, mais tokens de saída multiplicados pela tarifa de saída. Divida pelo denominador da tabela, como um milhão, quando essa for a unidade publicada.
Use as categorias reportadas no consumo e confira a documentação do modelo. Se a entrada total já inclui a parcela em cache, separe as duas antes de somar os custos. Depois acrescente ferramentas, armazenamento e outras cobranças aplicáveis. Valores estimados devem permanecer identificados como estimativas.
Meça uma amostra representativa
Execute tarefas curtas, médias e longas do seu caso de uso. Inclua documentos extensos, respostas sem resultado e falhas que provocam nova tentativa. Registre cada execução com identificador, configuração, consumo, tempo, resultado e motivo de repetição.
Um piloto pequeno ajuda a encontrar componentes esquecidos, mas não representa sozinho o volume futuro. Compare a projeção com o faturamento observado e investigue diferenças. Armazenamento persistente, histórico acumulado e repetição automática podem alterar a conta ao longo do tempo.
- Custo por tentativa e por tarefa aceita.
- Número de chamadas e ferramentas por tarefa.
- Distribuição dos casos, incluindo os mais caros.
- Taxa de repetição e principal causa de retrabalho.
Projete cenários e limite o trabalho
Monte cenários com volumes e composições diferentes de tarefas, em vez de multiplicar apenas uma média otimista. Separe despesas fixas, consumo variável e custos internos de revisão. Se houver conversão de moeda, explicite a cotação usada e mantenha tributos ou encargos em campos próprios.
Na aplicação, defina limites de tentativas, duração e tamanho de entrada compatíveis com o produto. Verifique o comportamento dos controles de orçamento do provedor: alerta e interrupção efetiva podem ter funções diferentes. O sistema precisa saber como parar e informar um limite atingido.
Reduza custo preservando a aceitação
Teste mudanças isoladas, como reduzir contexto irrelevante, escolher outro modelo ou diminuir chamadas desnecessárias. Compare o mesmo conjunto de tarefas antes e depois. Uma resposta mais barata que aumenta erros e revisão humana pode piorar o custo total.
O resultado da análise deve permitir explicar quanto custa entregar uma unidade útil, quais hipóteses sustentam a projeção e onde existe incerteza. Revise os parâmetros quando mudarem o modelo, o fluxo, a tabela oficial ou o perfil dos usuários.
Fontes e referências
Consulte a documentação original para disponibilidade e condições atuais. Fontes consultadas em 21 de outubro de 2026.