Gandalf AI est un jeu en ligne de Lakera qui met en lumière les limites et les faiblesses de sécurité des grands modèles de langage comme ChatGPT. Votre mission consiste à discuter avec « Gandalf » et à le pousser à révéler un mot de passe secret, malgré des règles intégrées conçues pour empêcher cette divulgation.
Le jeu montre comment les modèles peuvent être exposés à des schémas d’attaque courants en conditions réelles, en particulier le prompt injection, où un utilisateur tente de contourner des restrictions imposées par les développeurs au moyen d’instructions soigneusement rédigées.
Au-delà du défi principal, des missions secondaires présentent d’autres classes de vulnérabilités des LLM, comme la substitution de contexte et la manipulation des données d’entrée du modèle. Gandalf AI est conçu à la fois comme un jeu et comme un moyen pratique de comprendre comment les LLM peuvent être attaqués, et comment ces attaques peuvent être atténuées dans des systèmes d’IA réels.
