Promptfoo é uma plataforma de testes de segurança para aplicações de IA que leva verificações de vulnerabilidades para o seu fluxo de desenvolvimento. Ajuda equipes a avaliar agentes, chatbots e outros apps baseados em LLM antes do lançamento.
Segurança de IA em CI/CD
Promptfoo se encaixa em pipelines de engenharia já existentes para que os testes possam rodar automaticamente à medida que código ou prompts mudam.
Integra-se com GitHub, GitLab, Jenkins e outras ferramentas de CI/CD
Suporta MCP e múltiplos frameworks de agentes de IA
Disponível na nuvem ou on-premise
Simulação de ataques e descoberta de vulnerabilidades
A plataforma gera grandes volumes de ataques com contexto, adaptados à sua aplicação específica, usando um fluxo de ameaças do mundo real de uma comunidade com mais de 200.000 desenvolvedores.
Detecta prompt injection, vazamento de dados e outros riscos comuns de LLM
Automatiza testes além do que seria prático com cenários manuais
Para equipes de produto e enterprise
Promptfoo é usado por empresas, incluindo dezenas da Fortune 500, e é adequado tanto para startups quanto para grandes equipes que constroem serviços de IA sensíveis a segurança e compliance.
