Google DeepMind étudie les risques des systèmes multi-agents en IA
Google DeepMind, avec Schmidt Sciences, ARIA, Cooperative AI Foundation et Google.org, lance un fonds de 10 millions de dollars pour étudier les systèmes multi-agents en IA. L'objectif est de prévenir les risques liés à l'interaction massive d'agents IA, tels que les escroqueries et les cyberattaques.
« The strength of academia is that it can look really quite far into the future and do the kind of work that isn’t top of mind at industry labs. » — MIT Technology Review AI
Que faut-il retenir ?
- Google DeepMind annonce un fonds de 10 millions de dollars pour étudier les systèmes multi-agents.
- Schmidt Sciences, ARIA, Cooperative AI Foundation et Google.org participent au financement.
- Les risques incluent les escroqueries, les injections de prompts et les cyberattaques.
- Des simulations réalistes sont nécessaires pour comprendre les interactions massives d'agents IA.
Pourquoi cette nouvelle compte-t-elle ?
Cet article est crucial pour les professionnels de l'IA car il met en lumière les risques émergents liés aux systèmes multi-agents. Les recherches financées pourraient prévenir des scénarios dangereux, tels que les cyberattaques et les escroqueries, tout en favorisant une IA plus sûre et fiable.
10 millions de dollars de fonds
💬 Shah, Responsable du programme Science of Trustworthy AI chez Schmidt Sciences
Public concerné : développeurs, entreprises
