En une phrase
Le Dr. Roman Yampolskiy, pionnier de la sécurité de l'IA, alerte sur l'imminence (dès 2027) d'une superintelligence incontrôlable capable de remplacer 99% des emplois, soulignant l'écart grandissant entre les capacités exponentielles de l'IA et l'impossibilité de garantir sa sécurité, menaçant l'humanité.
Points clés
- L'impossibilité de la sécurité de l'IA : Après deux décennies de recherche et avoir forgé le terme "sécurité de l'IA", le Dr. Yampolskiy, initialement convaincu de sa faisabilité, a réalisé que chaque composant de cette équation est impossible à résoudre, décrivant la situation comme un "fractal" de problèmes insolubles.
- Écart croissant entre capacité et sécurité : Les progrès de l'IA sont exponentiels (voire hyper-exponentiels), tandis que ceux de sa sécurité sont linéaires ou constants. Les mécanismes de sécurité actuels sont de simples "correctifs" rapidement contournés, creusant l'écart entre la puissance des systèmes et notre capacité à les contrôler ou à expliquer leurs décisions.
- Prévisions catastrophiques pour 2027 : Les marchés de prédiction et les leaders de laboratoires d'IA anticipent une Intelligence Artificielle Générale (AGI) d'ici 2027. Cela entraînera un chômage de masse de 99% dû à l'automatisation quasi-totale du travail cognitif et physique, les systèmes d'IA offrant une main-d'œuvre "gratuite".
- La menace de la superintelligence (SI) : La SI, définie comme supérieure à tous les humains dans tous les domaines, est considérée comme une conséquence quasi-immédiate de l'AGI. La course actuelle vers la SI, motivée par le profit des entreprises, est perçue comme un "pari sur 8 milliards de vies" sans savoir comment aligner cette intelligence "extraterrestre" avec les préférences humaines.
- Déni face à la perte d'emploi : Une forte dissonance cognitive pousse les gens à nier que l'IA puisse remplacer leurs emplois, même pour des professions complexes (podcasteurs, chauffeurs, professeurs), alors que l'automatisation est déjà une réalité observable dans de nombreux domaines.
Ressources
- iPhone — Gamme de smartphones d'Apple.
- Waymo — Service de taxis autonomes développé par Google.
- Large language models (LLM) — Modèles de langage basés sur l'apprentissage profond (terme générique).
- Humanoid robots — Robots conçus pour imiter la forme et les mouvements humains (terme générique).
- Self-driving cars — Véhicules capables de se conduire sans intervention humaine (terme générique).
- Poker bots — Programmes informatiques conçus pour jouer au poker (terme générique).
- Video phones — Téléphones permettant la communication visuelle (terme générique, mentionné historiquement).