Transformer
Terme IA
Avancé
🧠 Concepts fondamentaux
📖 Définition
Le Transformer est une architecture de réseau de neurones introduite en 2017 par des chercheurs de Google, et c'est la fondation de pratiquement tous les grands modèles de langage actuels comme GPT, Claude et Gemini. Son innovation clé est le mécanisme d'attention, qui permet au modèle de regarder toutes les parties d'un texte en même temps plutôt que mot par mot. Cela rend le traitement beaucoup plus rapide et efficace, surtout pour comprendre les relations entre des mots éloignés dans une phrase. Le nom vient du titre de l'article fondateur : Attention Is All You Need.
💬 En termes simples
C'est une machine capable de lire une phrase entière d'un coup et de comprendre les relations entre tous les mots simultanément.
🎯 Exemple concret
Comprendre que le mot « avocat » désigne le fruit ou le métier selon les autres mots de la phrase.
💡 Le saviez-vous ?
C'est l'architecture révolutionnaire (le « T » de GPT) inventée par Google en 2017 qui a tout changé.