Kong lança gestão de gastos para mostrar quais agentes e equipes consomem IA

Ilustração de carteira digital no pagamento de uma compra on-line

Imagem ilustrativa gerada por IA para o Minuto Digital.

A Kong anunciou nesta quarta-feira, 4 de novembro, a disponibilidade geral de novos recursos de gestão de custos no AI Gateway. O foco é relacionar o consumo de IA às equipes, aplicações e agentes responsáveis pelas chamadas.

Segundo a empresa, o sistema permite atribuir despesas, planejar orçamentos e acompanhar gastos entre diferentes modelos e provedores. A proposta vai além de exibir uma contagem geral de tokens, as unidades usadas no processamento de texto de muitos serviços.

A ferramenta também reúne opções de controle e otimização, como acompanhamento de anomalias e políticas de uso. O anúncio não apresenta uma economia garantida que possa ser aplicada a qualquer empresa.

O problema fica claro quando vários produtos usam IA ao mesmo tempo: saber apenas o valor total da fatura não mostra qual deles cresceu mais ou qual tarefa ficou cara. Separar o consumo por aplicação ajuda a investigar. Para comparar custos com qualidade, porém, uma equipe ainda precisa observar se um modelo mais barato entrega respostas adequadas e quantas tentativas são necessárias para concluir o trabalho.

Fonte: Kong, 4 de novembro.

Encontrou um erro? Avise nossa redação. Conheça a Política Editorial.

Continue lendo