CitrusX est une plateforme conçue pour expliquer les décisions des réseaux neuronaux et des modèles de machine learning. Elle aide les organisations à comprendre le comportement de leurs modèles et les raisons pour lesquelles ils produisent des résultats spécifiques. Le produit est destiné aux équipes data, aux responsables métiers et aux professionnels de la conformité.
Ce que CitrusX aide à faire
Expliquer les décisions des modèles pour la revue interne et la communication avec les parties prenantes
Identifier les vulnérabilités et les schémas de risque dans le comportement des modèles
Générer des rapports détaillés adaptés à différents rôles
Soutenir la conformité réglementaire avec des éléments documentés et transparents
Comment cela fonctionne
CitrusX utilise des méthodes d’analyse du comportement des modèles et propose deux niveaux d’explicabilité :
Explicabilité locale pour les prédictions individuelles
Explicabilité globale pour le comportement général du modèle
La plateforme prend également en charge la surveillance en temps réel et l’export de rapports. Notez que les performances complètes peuvent nécessiter un matériel puissant, que les intégrations avec des services externes sont limitées et que le niveau de détail des rapports peut être difficile pour les débutants.
