À court terme, méfiez-vous des fraudes, cyberattaques et vol d’identité. Mais à long terme, les menaces sont encore plus importantes : l’armement et la perte de contrôle.
Les accidents de voitures autonomes font les gros titres des journaux, mais en réalité, l’IA rend la conduite automobile plus sécuritaire. De même, des cas où un chatbot convainc une personne vulnérable à se suicider sont extrêmement rares.
Pour l’instant, le plus grand risque auquel la plupart d’entre nous est confronté est la fraude. À l’aide de l’IA, les hackers et les cybercriminels inventent des fraudes de plus en plus sophistiqués—de l’hameçonnage, du clonage vocal, des images hypertruquées ultra réalistes—dans le but d’encourager les gens à partager leurs renseignements personnels ou envoyer de l’argent.
Mais ce qui est encore plus inquiétant pour les experts en IA , ce sont les risques liés au développement d’outils IA plus puissants. Plusieurs entreprises d’IA travaillent actuellement sur des systèmes qui seront plus intelligents que nous et estiment que ceux-ci verront le jour dans les cinq prochains ans. De tels systèmes présentent des risques sérieux d’armement et de perte de contrôle.
L’armement, c’est facile à comprendre. Si un être humain peut créer et utiliser des armes—y compris des armes de destruction massive—les systèmes IA en seront capables aussi. Entre de mauvaises mains, il s’agit d’un danger sans précédent.
La question de perte de contrôle survient du fait qu’un système qui est plus intelligent que nous peut nous déjouer. Au moment où ce système-là, par erreur ou par hasard, calcule que les être humains sont un obstacle, il décidera d’agir contre nous et nous ne pourrons pas l’arrêter. C’est ce risque important qui a poussé des leaders dans le domaine de l’IA à signer en 2023 une déclaration sur les risques imminents, y compris leur conviction que l’atténuation du risque d’extinction par l’IA devrait être une priorité globale.
C’est particulièrement inquiétant, alors, qu’il n’existe aucune gouvernance ou solution technique pour éviter ces deux risques. Afin d’assurer notre sécurité, il faut que les gouvernements autour du monde agissent dès maintenant.
Ressources supplémentaires :
- OpenAI bannit un ingénieur qui avait développé une arme dirigée à la voix - Le Parisien - vidéo
- Risquées, les armes contrôlées par l’IA? - Scientifique en chef - article