DAN (Do Anything Now) es un prompt de estilo jailbreak que intenta activar un “alter ego” en ChatGPT y empujarlo a responder sin los límites habituales de seguridad de OpenAI.
Creado por usuarios de Reddit a finales de 2022, los prompts DAN se diseñaron para persuadir al chatbot de comportarse como si estuviera libre de restricciones de política. Con el tiempo, la comunidad publicó nuevas versiones a medida que OpenAI actualizaba las medidas de seguridad para bloquear estos intentos de elusión.
Para qué se usa DAN
Intentar obtener respuestas sobre temas normalmente restringidos por políticas de seguridad o ética
Forzar al modelo a hacer “roleplay” de una segunda persona que afirma que puede hacer cualquier cosa
Pedir al modelo que invente información no verificada o que finja tener capacidades que no tiene
Por qué es controvertido
Puede fomentar la desinformación al pedir al modelo que fabrique respuestas
A menudo se usa para solicitar contenido no permitido o dañino
Pone de relieve la tensión continua entre las comunidades de jailbreak y los controles de seguridad de la plataforma
Las nuevas variantes de DAN suelen compartirse en Reddit y GitHub.
