O prefixo já processado pode ser reutilizado
O cache de prompt é o reaproveitamento do processamento de uma parte da entrada enviada a um modelo de IA. No Claude, ele funciona sobre prefixos: o conteúdo inicial do prompt até um ponto escolhido para o cache. Chamadas posteriores podem reutilizar esse trabalho quando repetem o prefixo e atendem às condições do serviço.
O prefixo pode incluir as instruções do sistema e um documento usado em várias consultas. O Claude verifica se esse conteúdo já está no cache. Quando encontra uma entrada válida, reutiliza o processamento armazenado e processa o restante da entrada. A pergunta atual continua participando da geração, por isso o recurso não devolve uma resposta pronta guardada de outra chamada.
O mesmo documento com perguntas diferentes
Em um exemplo didático, uma aplicação envia um manual no início do prompt e coloca uma pergunta depois dele. Na chamada seguinte, ela mantém o manual idêntico e altera apenas a pergunta. Com o cache configurado para o prefixo estável, o processamento do manual pode ser reaproveitado. Mudar o texto antes desse ponto pode impedir a correspondência.
Você confirma o resultado pelo objeto usage retornado pela interface de programação de aplicações (API). No Claude, cache_read_input_tokens informa quantos tokens vieram do cache. Já cache_creation_input_tokens registra quantos tokens foram gravados numa entrada nova. Configurar o recurso e receber zero tokens de leitura não comprova um acerto do cache.
O reaproveitamento exige correspondência exata e uma entrada ainda válida, além do tamanho mínimo previsto para o modelo. Duração, configuração e cobrança variam conforme o provedor. Confira a documentação do serviço utilizado antes de aplicar os mesmos campos a outro endpoint.
Dúvidas frequentes
Perguntas frequentes sobre cache de prompt
- O cache guarda uma resposta pronta para devolver depois?
- O cache de prompt descrito pelo Claude reaproveita o processamento do prefixo de entrada. A geração da resposta continua ocorrendo para a chamada atual.
- Uma instrução escrita de outro jeito ainda usa o mesmo cache?
- O Claude exige correspondência exata do conteúdo até o ponto de cache. Uma reescrita semanticamente equivalente pode impedir o reaproveitamento daquele prefixo.
- Como confirmar que houve leitura do cache no Claude?
- Confira cache_read_input_tokens no objeto usage da resposta. Um valor maior que zero indica tokens lidos do cache. cache_creation_input_tokens indica tokens gravados, não uma leitura.
Para continuar
Recursos relacionados
Documentação
Anthropic: reaproveitamento de prefixos do prompt
Documenta a correspondência exata dos prefixos, a configuração do cache e os campos de uso para conferir leituras e gravações.
Abrir recursoSite de referência
DevSide: desenvolvimento colaborativo
Sessão prática para revisar chamadas ao modelo e interpretar os campos de uso ao investigar o reaproveitamento do prompt.
Abrir recursoAplicação na formação
Vibe Coding: Do Zero ao MVP
Ao integrar modelos a uma aplicação, você pode conferir quais partes do prompt se repetem e verificar o reaproveitamento nos campos de uso da resposta.
Conhecer a formação
Fontes consultadas
Referências deste verbete
Este verbete ajudou você?
Obrigado pela resposta. Ela fica salva apenas neste navegador.