📖 Définition

La superintelligence (ASI) désigne un niveau hypothétique d'IA surpassant les capacités cognitives humaines dans tous les domaines. Contrairement à l'IA actuelle qui excelle dans des tâches spécifiques, une superintelligence serait capable de résoudre des problèmes que l'humanité ne peut même pas formuler. Ce concept demeure théorique et fait l'objet de débats intenses. La superintelligence est au coeur des réflexions sur la sécurité existentielle.

💬 En termes simples

Imaginez la différence de capacité intellectuelle entre un enfant en bas âge et le plus brillant des chercheurs du MILA à Montréal. La superintelligence représenterait un écart au moins aussi grand, mais entre l'ensemble de l'humanité et la machine. Ce serait comme si un système pouvait simultanément repenser la physique quantique et résoudre les changements climatiques.

🎯 Exemple concret

Des laboratoires comme le MILA consacrent des équipes entières à la recherche sur l'alignement d'une future ASI. Des gouvernements participent à des forums internationaux sur la gouvernance de la superintelligence. Des entreprises créent des comités de sécurité dédiés intégrant des philosophes et des éthiciens.

💡 Le saviez-vous ?

Nick Bostrom a popularisé l'idée que l'ASI pourrait être le dernier défi de l'humanité. Yoshua Bengio, cofondateur du MILA, a cosigné en 2023 une déclaration affirmant que l'atténuation du risque d'extinction par l'IA devrait être une priorité mondiale au même titre que les pandémies et les guerres nucléaires.

Accueil

Outils

Annuaire

Apprendre