Explicabilité (XAI)
Explainable Artificial Intelligence
📖 Définition
💬 En termes simples
Imaginez un évaluateur agréé qui refuse une demande de prêt sans donner de justification : le client serait en droit d'exiger des explications claires. L'explicabilité en IA joue ce rôle de reddition de comptes, comme un professionnel québécois qui doit justifier ses décisions devant son ordre professionnel.
🎯 Exemple concret
En 2026, un hôpital québécois utilise des outils XAI pour expliquer aux patients pourquoi un algorithme a recommandé un traitement particulier. Une compagnie d'assurance de Lévis déploie des tableaux de bord d'explicabilité pour montrer les facteurs qui influencent le calcul des primes. Un système de présélection de candidatures génère un rapport détaillant les critères de classement de chaque candidat.
💡 Le saviez-vous ?
La Loi 25 du Québec et la réglementation européenne convergent vers une même exigence : toute décision automatisée ayant un impact significatif doit pouvoir être expliquée. Des méthodes comme SHAP et LIME ont été développées pour ouvrir les « boîtes noires » des réseaux de neurones profonds.