Modelos de Linguagem
Detecção de jailbreaks e prompt injection indireto em pipelines RAG com LLM Guard
Como detectar jailbreaks e prompt injection indireto em pipelines RAG com LLM Guard, combinando scanners de entrada e…
Prompt injection
Assuntos relacionados
7 matérias
Tutoriais e Guias
Como testar a robustez de prompts contra jailbreak com o Garak
Passo a passo com o Garak, scanner open source da NVIDIA: rodar ataques contra seu endpoint, ler o…
Agentes de IA
Agentes de navegador: Gemini no Chrome, ChatGPT e Claude comparados
Compare os agentes de navegador do Gemini no Chrome, ChatGPT e Claude: o que fazem, planos exigidos, disponibilidade…
Novidades e Integrações
AWS Bedrock Guardrails com mascaramento contextual de PII e bloqueio de prompt injection
Entenda como configurar o AWS Bedrock Guardrails para mascarar dados sensíveis conforme a LGPD e bloquear ataques de…
Tutoriais e Guias
Passo a passo para criar testes de segurança contra injeção de prompt na sua aplicação
Descubra como estruturar baterias de testes automatizados contra injeção direta e indireta de prompt para proteger aplicações empresariais…
Agentes de IA
Como testar um agente de IA antes de colocar em produção
Evals, avaliadores em código e LLM como juiz, testes de ferramentas, prompt injection, tracing e rollout gradual: como…
Tutoriais e Guias
Engenharia de prompts: few-shot, chain-of-thought e o que funciona
Estrutura de um bom prompt, few-shot, chain-of-thought, tags XML, prompt de sistema e testes, com exemplos de antes…