Calculadora de custos de API de IA
Descobre quanto te vai custar um modelo de IA por pedido, por dia e por mês, e compara os principais fornecedores lado a lado.
A carregar Calculadora de custos de API de IA… Se nada acontecer, ativa o JavaScript.
As APIs de modelos de linguagem são faturadas ao token, um pedaço de texto que costuma ser uma palavra curta ou parte de uma palavra mais longa. Cada fornecedor publica um preço por milhão de tokens, e cada pedido que envias tem dois contadores a correr: os tokens de entrada que envias (prompt de sistema, histórico da conversa, documentos recuperados, definições de ferramentas) e os tokens de saída que o modelo escreve de volta. Esta calculadora pega no tamanho de um pedido típico e em quantos envias, multiplica-os por uma tabela de preços de tabela atuais e mostra o custo por pedido, por dia e por mês para todos os modelos de uma vez, ordenados para que a opção mais barata fique no topo.
Perguntas frequentes
O que é um token e quantas palavras tem?
Porque é que os tokens de saída custam mais do que os de entrada?
O que significa a percentagem de entrada em cache?
Quando devo usar uma Batch API?
Os tokens de raciocínio contam como saída?
Porque é que o preço de um modelo sobe com prompts muito longos?
Até que ponto estas estimativas são rigorosas?
Os meus dados são enviados para algum lado?
Sobre Calculadora de custos de API de IA
A entrada e a saída têm preços muito diferentes. Os tokens de saída custam normalmente várias vezes mais do que os de entrada, porque gerar texto um token de cada vez é muito mais caro para o fornecedor do que ler um prompt em paralelo. Isso muda qual o modelo que ganha: uma aplicação que envia documentos longos e pede uma resposta de uma linha depende sobretudo do preço de entrada, enquanto um assistente de escrita que produz páginas de texto depende sobretudo do preço de saída. Os modelos de raciocínio acrescentam mais uma nuance, porque o raciocínio oculto que fazem antes de responder é normalmente faturado como saída, por isso o valor de saída que introduzes deve incluí-lo. Alguns fornecedores cobram ainda um preço mais alto quando o prompt ultrapassa um certo tamanho, e a tabela passa esses modelos para o escalão de contexto longo automaticamente quando a tua entrada é suficientemente grande.
Há dois descontos que podem reduzir muito a fatura. O prompt caching permite ao fornecedor reaproveitar a parte do prompt que se repete entre chamadas, como um prompt de sistema longo ou um documento sobre o qual fazes várias perguntas, e os tokens de entrada em cache são faturados a uma pequena fração do preço normal. Define a percentagem em cache como a parte de cada prompt que se mantém igual de chamada para chamada. As Batch APIs aceitam um ficheiro de pedidos, processam-nos em cerca de um dia em vez de imediatamente e cobram mais ou menos metade do preço em troca, o que serve bem avaliações, tarefas de classificação e resumos noturnos. Se não souberes as tuas contagens de tokens, muda a unidade para palavras ou caracteres para uma estimativa aproximada, ou cola texto real no Contador de tokens para um valor exato. Tudo é calculado no teu navegador, e a tabela de preços mostra a data em que foi revista pela última vez.
Porque é que um token não é uma palavra
A maioria dos modelos modernos lê texto através de byte pair encoding, uma técnica descrita pela primeira vez em 1994 como forma de comprimir dados. Começa com caracteres isolados e junta repetidamente o par que aparece mais vezes num corpus de treino, de modo que as palavras frequentes acabam por ser um único token e as raras são montadas a partir de várias peças. O resultado é um vocabulário fixo, tipicamente entre 50 000 e 250 000 entradas, capaz de escrever qualquer texto.
Como o vocabulário é aprendido sobretudo a partir de inglês, a mesma frase pode custar quantias muito diferentes em línguas diferentes. Um parágrafo em português ou alemão precisa muitas vezes de bastante mais tokens do que a sua tradução inglesa, e línguas com alfabetos não latinos podem precisar de várias vezes mais. Numa fatura ao token isto é uma diferença de preço real, e uma das razões pelas quais os tokenizadores mais recentes têm vocabulários maiores com mais entradas não inglesas.
A tokenização explica também algumas manias famosas dos modelos. Um modelo que vê a palavra strawberry como dois ou três pedaços nunca olha para as letras individuais, e é por isso que contar os r costumava atrapalhar sistemas de resto competentes. Os números dividem-se em grupos estranhos de algarismos pelo mesmo motivo, o que tornava a aritmética mais difícil para os primeiros modelos do que parecia.