A Kong anunciou nesta quarta-feira, 4 de novembro, a disponibilidade geral de novos recursos de gestão de custos no AI Gateway. O foco é relacionar o consumo de IA às equipes, aplicações e agentes responsáveis pelas chamadas.
Segundo a empresa, o sistema permite atribuir despesas, planejar orçamentos e acompanhar gastos entre diferentes modelos e provedores. A proposta vai além de exibir uma contagem geral de tokens, as unidades usadas no processamento de texto de muitos serviços.
A ferramenta também reúne opções de controle e otimização, como acompanhamento de anomalias e políticas de uso. O anúncio não apresenta uma economia garantida que possa ser aplicada a qualquer empresa.
O problema fica claro quando vários produtos usam IA ao mesmo tempo: saber apenas o valor total da fatura não mostra qual deles cresceu mais ou qual tarefa ficou cara. Separar o consumo por aplicação ajuda a investigar. Para comparar custos com qualidade, porém, uma equipe ainda precisa observar se um modelo mais barato entrega respostas adequadas e quantas tentativas são necessárias para concluir o trabalho.
Fonte: Kong, 4 de novembro.



