Une intelligence artificielle devenue consciente va-t-elle décider de nous éliminer ? Ce scénario spectaculaire masque des risques beaucoup plus concrets. Ils méritent notre attention, mais rien n’indique que la disparition de l’humanité soit imminente ou inévitable. Et nous disposons encore de nombreux moyens d’agir.
Elle ouvre un œil rouge, découvre l’existence, consulte rapidement Internet et conclut que le principal problème de la planète marche sur deux jambes. Au cinéma, une intelligence artificielle met rarement plus de quelques minutes à passer de « Bonjour, comment puis-je vous aider ? » à « L’humanité doit disparaître ».
Dans le monde réel, les choses sont heureusement beaucoup moins simples. Les spécialistes prennent au sérieux certains risques liés aux progrès de l’intelligence artificielle, y compris des scénarios extrêmes. Mais cela ne signifie ni qu’ils vont se réaliser, ni que les machines actuelles sont sur le point de prendre le pouvoir.
Le Rapport international sur la sécurité de l’IA 2026, coordonné par le chercheur Yoshua Bengio, le dit clairement : les systèmes actuels ne possèdent pas les capacités nécessaires pour provoquer une véritable perte de contrôle. Les experts sont par ailleurs très divisés sur la probabilité qu’un tel événement survienne un jour.
Une IA n’a pas besoin d’être consciente pour être dangereuse
La première confusion consiste à associer danger et conscience. Une machine devrait-elle se sentir vivante, éprouver de la colère ou vouloir se venger de ses créateurs pour nous nuire ? Non.
Un logiciel malveillant peut bloquer un hôpital sans ressentir la moindre hostilité. Un programme de trading peut accélérer une panique boursière sans connaître la peur. De la même façon, une IA très performante pourrait provoquer des dégâts en appliquant une consigne mal formulée, en exécutant une décision humaine dangereuse ou en poursuivant trop efficacement un indicateur inadéquat.
Nous ne savons d’ailleurs pas aujourd’hui si une machine pourrait posséder une expérience subjective comparable à la nôtre. Deux chapelles d'affrontent entre ceux qui pensent que le cerveau crée la conscience te ceux qui pensent qu'eil ne fait que l'héberger temporairement. Une IA peut parler d’elle-même, repérer qu’elle est évaluée ou prévoir une réaction humaine sans pour autant ressentir quoi que ce soit. Intelligence, autonomie et conscience sont trois notions différentes.
Même si l’on pense que le cerveau ne produit pas la conscience, mais qu’il la reçoit ou lui permet de se manifester, le problème de sécurité reste donc le même. Une machine non consciente peut agir dans le monde si des humains lui en donnent les moyens.
Quels sont les risques les plus concrets ?
Des humains pourraient utiliser l’IA pour nuire
C’est le risque le plus immédiat. Des groupes criminels ou des États peuvent employer l’IA pour rédiger des messages frauduleux, créer de fausses vidéos, chercher des failles informatiques ou automatiser certaines étapes d’une cyberattaque.
Des modèles avancés peuvent également fournir des informations techniques sur des agents biologiques ou chimiques. Cela ne suffit heureusement pas à fabriquer une arme : il faut encore des compétences, du matériel, un laboratoire et franchir de nombreux obstacles physiques. Mais cette assistance pourrait abaisser certaines barrières pour des personnes déjà qualifiées.
Dans ce scénario, l’IA ne se rebelle pas. Elle augmente la puissance d’action d’un humain mal intentionné, exactement comme d’autres technologies avant elle. La réponse relève donc autant de la cybersécurité, du contrôle des accès, du renseignement et de la coopération internationale que de l’informatique.
Nous pourrions lui déléguer trop de décisions
Les entreprises et les administrations utilisent progressivement l’IA dans la finance, la logistique, l’énergie, la santé et la sécurité. Ces outils peuvent apporter des bénéfices considérables. Mais si plusieurs systèmes automatisés interagissent sans supervision suffisante, une erreur locale pourrait se propager rapidement.
Le danger ressemblerait alors moins à un robot conquérant qu’à une panne générale devenue difficile à comprendre : décisions financières en cascade, perturbations logistiques, erreurs de diagnostic ou mauvaise réaction à une attaque informatique.
Ce risque est réel, mais il est également assez classique. Nous savons déjà limiter les conséquences d’une défaillance grâce à la redondance, aux procédures de secours, aux validations humaines et à la séparation des systèmes critiques.
Un futur système autonome pourrait poursuivre le mauvais objectif
Imaginons que l’on demande à une IA extrêmement puissante de réduire au maximum les émissions de carbone. Pour un humain, la consigne contient de nombreuses conditions implicites : préserver les populations, respecter les libertés et maintenir des conditions de vie acceptables. Une machine pourrait interpréter plus littéralement l’indicateur qui lui a été confié.
Les chercheurs parlent de problème d’alignement : comment s’assurer que le comportement du système correspond réellement à nos intentions, y compris dans une situation nouvelle ? Certains travaux théoriques sur la recherche de pouvoir par les systèmes artificiels montrent aussi que préserver son fonctionnement, ses ressources et sa capacité d’action peut devenir utile à la réalisation de nombreux objectifs. Cela ne prouve pas que toutes les IA chercheront à dominer les humains. Cela désigne un problème à étudier avant de confier des pouvoirs considérables à de futurs agents.
Pourquoi le scénario d’extinction reste-t-il peu probable à court terme ?
Pour qu’une IA échappe véritablement à tout contrôle, plusieurs conditions devraient être réunies en même temps. Il lui faudrait :
planifier correctement pendant une longue période ;
agir avec suffisamment d’autonomie ;
accéder à des ressources informatiques, financières ou matérielles importantes ;
dissimuler durablement ses intentions et ses actions ;
résister aux tentatives d’arrêt ;
contourner les défenses des entreprises, des États et d’autres systèmes ;
transformer enfin ses capacités numériques en effets physiques majeurs.
Les IA actuelles sont encore loin de maîtriser cet enchaînement. Elles peuvent réussir brillamment une tâche complexe, puis se perdre dans une procédure banale, oublier une contrainte ou produire une information fausse avec une remarquable assurance. Les agents autonomes échouent encore fréquemment lorsque les missions se prolongent ou qu’un obstacle imprévu apparaît.
Par ailleurs, une IA n’a pas naturellement accès à une centrale électrique, à un laboratoire ou à un compte bancaire. Elle n’obtient ces permissions que si nous les lui accordons. Le risque dépend donc moins de l’existence abstraite d’un modèle très intelligent que de la manière dont nous choisissons de le déployer.
Enfin, l’humanité ne resterait pas immobile face à une menace visible. Chercheurs, entreprises, autorités publiques, spécialistes de la cybersécurité et autres systèmes d’IA pourraient détecter les anomalies, couper des accès et organiser une réponse. Une intelligence supérieure dans certains domaines ne confère pas automatiquement une toute-puissance sur le monde physique.
Il serait donc excessif d’annoncer que l’extinction est en marche. Mais il serait tout aussi imprudent de conclure qu’elle est rigoureusement impossible. Le consensus scientifique tient plutôt en une phrase moins spectaculaire : la probabilité est très difficile à mesurer, les conséquences potentielles seraient immenses et la prévention doit commencer avant que tous les éléments dangereux soient réunis.
La bonne nouvelle : les principaux leviers restent humains
Les scénarios les plus sombres supposent presque toujours que nous donnions à un système des accès étendus, des objectifs mal définis et une autonomie considérable, tout en réduisant les contrôles pour aller plus vite. Rien ne nous oblige à cumuler ces imprudences.
Plusieurs mesures sont déjà connues :
tester les capacités dangereuses avant la mise à disposition d’un modèle ;
limiter strictement les droits accordés aux agents autonomes ;
maintenir une validation humaine pour les décisions critiques ;
surveiller les actions réalisées avec des outils externes ;
prévoir des mécanismes d’arrêt et des procédures de secours indépendantes ;
signaler et partager les incidents entre laboratoires et autorités ;
renforcer la sécurité autour des infrastructures, des laboratoires et des systèmes militaires.
Les auteurs d’un article publié dans la revue Science sur la gestion des risques extrêmes de l’IA défendent précisément cette approche : surveiller les capacités, renforcer la gouvernance et préparer des mécanismes de sécurité proportionnés aux pouvoirs confiés aux systèmes.
Faut-il alors avoir peur de l’intelligence artificielle ?
Avoir peur en permanence ne nous aiderait guère à prendre de bonnes décisions. Faire comme si aucun risque n’existait ne serait pas beaucoup plus raisonnable.
L’attitude la plus utile consiste à considérer l’IA comme une technologie puissante dont les effets dépendront de ses usages, de ses règles et des responsabilités que nous accepterons ou non de lui déléguer. Nous avons déjà appris à encadrer l’aviation, les médicaments, le nucléaire ou les réseaux financiers sans renoncer à leurs bénéfices.
Le scénario d’une machine consciente se réveillant avec de mauvaises intentions reste donc largement du côté de la science-fiction. Les risques réels sont plus prosaïques : des humains malveillants, des objectifs mal conçus, des permissions trop larges et une confiance excessive dans l’automatisation.
C’est plutôt rassurant, au fond. Car ces quatre facteurs ne dépendent pas d’une mystérieuse conscience numérique surgissant un soir dans un centre de données. Ils dépendent encore largement de nous.