📖 Définition

Un audit algorithmique est un examen systématique et indépendant d'un système d'IA visant à évaluer sa conformité, son équité, sa transparence et sa performance. Il analyse le fonctionnement interne, les données d'entraînement, les résultats produits et les impacts sur les personnes. L'audit peut être interne ou externe et couvre des dimensions techniques, éthiques et juridiques. Il est un outil essentiel de gouvernance, de plus en plus exigé par les cadres réglementaires.

💬 En termes simples

L'audit algorithmique s'apparente à la vérification financière qu'un cabinet comptable indépendant effectue sur les états financiers d'une entreprise québécoise cotée en bourse. Tout comme le vérificateur examine les livres pour s'assurer de la fidélité et de la conformité, l'auditeur algorithmique examine les rouages d'un système d'IA pour garantir sa justesse et sa transparence.

🎯 Exemple concret

Le Conseil du trésor du Québec mandate un audit indépendant de tous les systèmes d'IA utilisés dans l'attribution de services gouvernementaux. Une grande banque montréalaise soumet ses modèles de prêts hypothécaires à un audit trimestriel. Un consortium d'entreprises technologiques québécoises développe un cadre de référence normalisé pour les audits algorithmiques.

💡 Le saviez-vous ?

L'Union européenne impose des audits obligatoires pour les systèmes d'IA à haut risque depuis 2024. Au Québec, la Commission d'accès à l'information a publié des lignes directrices spécifiques, faisant de la province l'une des juridictions nord-américaines les plus avancées en responsabilité algorithmique.

Accueil

Outils

Annuaire

Apprendre