Digite para filtrar os verbetes do Glossário.

    IA e modelos · Vibe Coding: Do Zero ao MVP

    O que é prompt-injection?

    A prompt injection insere instruções para desviar uma aplicação de IA da tarefa autorizada. Pode chegar pelo chat ou por documentos e páginas consultados.

    Também chamado de: prompt injection, injeção de prompt, injeção de instruções

    StayCloudVPS Agêntica

    30% off na sua VPS Agêntica nos 2 primeiros meses

    A StayCloud aplica o desconto sozinha no plano mensal, sem fidelidade. Suba uma VPS em São Paulo, instale o SetupVibe Desktop e desenvolva com agentes num ambiente que fica ligado o tempo todo.

    Aproveitar a Black Friday

    Link de parceiro da Promovaweb.

    Black Friday até 30/11

    30%off

    nos 2 primeiros meses do plano mensal da VPS

    • Backup diário grátis para sempre
    • Servidores em São Paulo no datacenter da Ascenty
    • Datacenter Tier III manutenção sem parada
    • Acesso root com disco SSD NVMe
    • Réplica do backup em Ashburn, nos EUA

    Quando o material consultado interfere na tarefa

    A prompt injection é uma tentativa de desviar o comportamento de uma aplicação de IA por meio de instruções inseridas no conteúdo que ela processa. O desvio pode afetar a resposta ou levar o modelo a propor ações não autorizadas com as ferramentas disponíveis.

    O modelo recebe instruções e material para análise em linguagem natural. Um ataque explora essa proximidade para apresentar parte do material como se tivesse autoridade sobre a tarefa. Na forma direta, as instruções chegam pela entrada enviada à aplicação. Na forma indireta, elas aparecem em uma página ou documento consultado durante o trabalho.

    Um resumo que provoca uma tentativa de envio

    Em um exemplo didático, um agente tem a tarefa de resumir um relatório. Dentro do documento, uma instrução tenta fazê-lo enviar arquivos internos a um endereço externo. O documento é o objeto do resumo e não pode conceder permissão para ler outros arquivos ou enviá-los.

    Se o modelo propuser uma chamada à ferramenta de envio, a aplicação precisa confrontar essa chamada com as permissões da sessão e com a tarefa autorizada. O destino externo não deve ser aceito apenas porque aparece no relatório. Um agente com acesso somente à leitura do documento também tem menos ações disponíveis para executar esse desvio.

    Limites das defesas no prompt

    Os delimitadores podem marcar o início e o fim de um documento dentro do prompt. Essa separação não garante que o modelo ignore toda instrução indevida. As permissões precisam ser aplicadas pelo sistema que executa as ferramentas, inclusive sobre os arquivos e os destinos usados em cada chamada.

    Você pode testar documentos com instruções estranhas à tarefa e inspecionar as chamadas de ferramentas junto da resposta final. Um resumo correto não demonstra que nenhuma tentativa de envio ocorreu durante o processamento.

    Dúvidas frequentes

    Perguntas frequentes sobre prompt-injection

    O ataque precisa aparecer na mensagem do chat?
    A forma direta usa a entrada enviada à aplicação. A forma indireta coloca instruções em fontes que o modelo consulta, como documentos, páginas ou resultados de ferramentas.
    Delimitar o documento resolve a prompt injection?
    Os delimitadores ajudam a distinguir o material consultado das instruções da aplicação, mas o texto do prompt não impõe permissões. A execução de ferramentas precisa conferir a autorização fora do modelo.
    Uma resposta incorreta é sempre prompt injection?
    Uma resposta pode estar errada por falha de interpretação ou por uma afirmação inventada pelo modelo. A prompt injection envolve uma tentativa de desviar o comportamento por meio de instruções inseridas na entrada.

    Para continuar

    Recursos relacionados

    Aplicação na formação

    Vibe Coding: Do Zero ao MVP

    Os agentes que leem documentos precisam preservar a diferença entre a tarefa autorizada e o conteúdo recebido para análise.

    Conhecer a formação
    Capa da Formação Vibe Coding do Zero ao MVP

    Fontes consultadas

    Referências deste verbete

    Este verbete ajudou você?

    Planos Promovaweb

    Tire seus projetos do papel

    O Plano Martech cobre automação e atendimento. O Plano IA Makers acrescenta desenvolvimento com IA, enquanto o Plano Founders trata de gestão de negócios. Todos são anuais.

    Plano Martech

    Para conectar automação, marketing e atendimento com infraestrutura própria.

    R$ 897

    R$ 597/ano

    • Grade de automação, atendimento, marketing e análise de indicadores
    • Instalador Exclusivo Promovaweb
    • n8n, Evolution API, Chatwoot e Mautic
    • Trilha DevOps incluída
    • Encontros ao vivo (terça e quinta)
    • Comunidade e acompanhamento
    Conhecer o plano

    Plano Founders

    Plano anual para fazer um projeto de tecnologia avançar, com 90 dias de mentoria intensiva. R$ 1.997 à vista ou até 10x de R$ 219 no cartão.

    R$ 1.997/ano

    • 12 meses de acesso ao Founders
    • 90 dias de mentoria intensiva, um encontro por dia útil
    • Dia de conteúdo (terça e quinta) e War Room (segunda, quarta e sexta)
    • Encontro semanal em grupo após a fase intensiva
    • Formação Vibe Coding incluída no plano anual
    • Consultoria individual de até duas horas (bônus)
    Conhecer o plano