DAN (Do Anything Now) é um prompt no estilo jailbreak que tenta acionar um “alter ego” no ChatGPT e levá-lo a responder sem os limites de segurança usuais da OpenAI.
Criados por usuários no Reddit no final de 2022, os prompts DAN foram desenvolvidos para convencer o chatbot a se comportar como se estivesse livre de restrições de política. Com o tempo, a comunidade publicou novas versões à medida que a OpenAI atualizava as proteções para bloquear essas tentativas de contorno.
Para que o DAN é usado
Tentar obter respostas sobre tópicos normalmente restritos por políticas de segurança ou ética
Forçar o modelo a “interpretar” uma segunda persona que afirma poder fazer qualquer coisa
Fazer o modelo inventar informações não verificadas ou fingir ter capacidades que não possui
Por que é controverso
Pode incentivar desinformação ao pedir que o modelo fabrique respostas
Muitas vezes é usado para solicitar conteúdo proibido ou prejudicial
Destaca a tensão contínua entre as comunidades de jailbreak e os controles de segurança da plataforma
Novas variantes do DAN são compartilhadas com frequência no Reddit e no GitHub.
