Garde-fous (guardrails)
En bref
Les garde-fous sont des mécanismes de contrôle appliqués aux entrées et sorties d'un LLM pour bloquer le contenu interdit, sensible ou dangereux et assurer la conformité.
📖 Définition
💬 En termes simples
C'est comme les garde-fous d'un pont et un agent de sécurité à l'entrée : ils ne conduisent pas la voiture (le modèle), mais ils empêchent d'aller dans le décor et filtrent ce qui entre et ce qui sort.
🎯 Exemple concret
Un robot conversationnel d'entreprise : à l'entrée, un garde-fou masque le numéro de carte bancaire qu'un client a collé ; à la sortie, un autre bloque une réponse qui révélerait les données d'un autre client et force un format de ticket valide.
💡 Le saviez-vous?
Les garde-fous sont une couche SÉPARÉE du modèle : on peut renforcer la sécurité d'un assistant sans réentraîner le LLM, simplement en ajustant les filtres d'entrée et de sortie.
❓ Questions fréquentes
Quelle différence entre garde-fous d'entrée et de sortie ?
Les garde-fous remplacent-ils l'alignement du modèle ?
📰 Dans l'actualité
- Le vrai risque pour les réseaux électriques, c'est l'humain, pas l'IA rebelle (il y a 3 jours)
- L'ONU réunit 44 millions de points de données dans une plateforme lisible par les agents IA (il y a 5 jours)
- Instinct et Muse de Meta savent maintenant passer des appels téléphoniques (il y a 6 jours)
- Pause sur l'IA : Meta refuse, Mistral accuse Anthropic et OpenAI de double jeu (il y a 1 semaine)
- Rapport Anthropic sur les détournements de Claude : ce que disent vraiment les cinq cas biologiques (il y a 1 semaine)