Uma instância do Agents SDK pode devolver um comando antigo, embora a resposta pareça plausível na tela. Nesse caso, a falha pode estar na chamada enviada ao modelo, nos trechos recuperados da documentação ou no histórico da sessão.

O AI Gateway registra a chamada feita ao modelo, o Vectorize devolve trechos próximos da pergunta e o Agents SDK conserva o estado da interação. Uma chave comum permite relacionar a resposta à chamada, ao documento e à sessão.

Direto ao ponto

O gateway registra a chamada, mas não avalia se a resposta serve ao cliente. A busca vetorial aplica os filtros enviados pela aplicação, porém não define sozinha quais documentos cada sessão pode acessar. O runtime conserva o estado configurado. Você precisa relacionar a sessão às permissões atuais antes de recuperar os trechos e encaminhar o atendimento.

Eu recomendo os serviços da Cloudflare quando cada componente atende a uma função da aplicação. Numa resposta errada, você precisa acompanhar a pergunta pela chamada ao modelo, pelos trechos recuperados e pelo estado da sessão. Abra cada registro e identifique a sessão correspondente para conferir se os três serviços participam desse percurso.

Reconstrua a resposta que saiu errada

Comece pelo identificador exibido junto da execução. Ele deve acompanhar a pergunta desde o backend, passar pela busca e aparecer no registro da chamada ao modelo. Sem esse vínculo, o suporte vê telas separadas e tenta adivinhar se a falha começou na recuperação ou na geração.

Abra primeiro o conteúdo enviado ao modelo e compare as instruções com o provedor e o modelo configurados. Confira também a quantidade de tokens antes de investigar a resposta. O AI Gateway centraliza chamadas de modelos da Cloudflare e de provedores externos, além de oferecer logs, cache, limites e tentativas adicionais.

Esses registros mostram o que trafegou pelo gateway. Eles não informam se a versão do manual era a correta nem se o cliente tinha permissão para acessá-la. Uma resposta barata e rápida ainda pode usar uma fonte inadequada.

Volte do trecho recuperado ao documento original

O Vectorize guarda embeddings e retorna itens próximos ao vetor consultado. Em RAG (Retrieval-Augmented Generation), o índice costuma preservar um identificador que leva ao documento ou ao trecho de origem. Esse vínculo permite abrir o material usado pela resposta. O artigo sobre Supabase como backend para Vibe Coding apresenta outra composição com busca vetorial dentro do PostgreSQL.

Ao encontrar o comando antigo, abra o documento indicado pelo resultado e confira a data da versão indexada. Se a restrição ficou num fragmento e o exemplo em outro, ajuste a divisão antes de repetir a pergunta.

Compare duas sessões com permissões diferentes para confirmar que o filtro não mistura documentos de clientes. Depois altere um documento, reconstrua o vetor e confira se a busca retorna a versão atual. Essa sequência testa autorização e atualização, falhas que uma consulta isolada não revela.

A base original deve continuar disponível fora do índice. Se o Vectorize for substituído, você precisará gerar embeddings novamente a partir desses documentos e reconstruir metadados, filtros e relação com cada cliente. Exportar apenas os vetores não preserva necessariamente o material necessário para explicar uma resposta.

Limite o estado mantido pelos Agents

O Agents SDK usa Durable Objects para oferecer estado, sessões, WebSockets e agendamento. O estado guarda o identificador de uma sessão ou acompanha uma tarefa longa conforme a configuração escolhida. Não armazene toda mensagem de forma permanente só porque existe espaço para isso.

Defina qual informação a próxima interação recupera, por quanto tempo e com qual chave de separação. Ao abrir duas sessões, a pergunta do primeiro cliente não pode aparecer na segunda. Ao revogar acesso a um documento, uma tarefa agendada depois da revogação deve respeitar a permissão atual.

Defina uma forma de remoção do histórico compatível com a política da aplicação. Se o agente transforma uma troca de mensagens em resumo, registre a origem e a data usadas. Um resumo antigo pode continuar influenciando respostas mesmo depois que as mensagens foram retiradas da interface.

Trate cache e tentativas como comportamento do produto

O cache do gateway pode reduzir chamadas repetidas, mas uma resposta ligada a permissão ou conteúdo recente não deve reaparecer para a sessão errada. A chave usada no cache precisa distinguir os elementos que alteram a resposta. Uma pergunta igual não representa necessariamente a mesma consulta quando cliente, versão do documento ou acesso mudam.

Defina quando o gateway fará uma nova tentativa. Se o modelo não respondeu, repetir a chamada pode ser adequado. Se a primeira execução produziu uma ação externa e a resposta se perdeu, uma repetição pode criar outro efeito. Separe geração de texto de ações com cobrança, envio ou alteração de cadastro.

Você pode consultar latência, custo e falhas no AI Gateway e relacionar esses registros ao evento externo. A resposta do modelo, sozinha, não confirma que uma cobrança ou alteração de cadastro ocorreu antes da nova tentativa.

Use cada serviço somente onde ele esclarece a aplicação

Uma busca interna sem histórico duradouro pode usar o Vectorize e um gateway, com a aplicação recebendo a pergunta e consultando o índice. Um chatbot sem base documental pode manter estado e logs sem índice vetorial. Uma chamada isolada ao modelo pode usar apenas o gateway quando não exige recuperação nem sessão.

A dependência criada por essa integração também pesa na minha recomendação da Cloudflare. Para substituir o Vectorize, preserve os documentos que reconstruirão o índice. Ao trocar o runtime, confira o formato escolhido para o histórico. A chamada ao modelo precisa continuar acessível pela interface usada na nova composição.

O artigo da Promovaweb sobre serviços da Cloudflare sem prender a stack detalha essa forma de testar substituições. O percurso entre Pages, Workers, R2 e Hyperdrive mostra como identificar uma chamada entre serviços. Para projetos criados com IA, infraestrutura para Vibe Coding explica por que banco, arquivos e filas precisam sair do computador usado no protótipo.

No Vibe Coding, cada integração criada com IA continua sujeita a especificação, revisão e teste. O Plano IA Makers da Promovaweb desenvolve essa prática. Quando busca, histórico e chamadas ao modelo já se misturam numa aplicação existente, o Diagnóstico de Produto e Arquitetura da Dev Side Studio organiza a jornada e documenta a função de cada integração.