[ÉDITO] IA et fin du monde : se poser les vraies questions

La bonne question n’est peut-être pas : « Que veut cette IA? » Mais plutôt : « Jusqu’où peut-elle aller pour accomplir ce que nous lui avons demandé? Et avons-nous réellement les moyens de l’arrêter? »

« Il y a deux mois, des agents d’OpenAI ont piraté des infrastructures tierces entièrement de leur propre initiative. Il s’agissait d’une vague de piratage concentrée qu’ils ont menée de leur propre chef. Et si l’on considère le niveau de capacités futures de l’IA dotée de cette même volonté, elles peuvent causer des ravages extrêmes. Par exemple, pirater des infrastructures critiques ou concevoir des armes biologiques menaçant l’humanité d’extinction. » Ces mots ont été prononcés par l’ex-chercheur d’Anthropic et OpenAI, Jacob Coxon, dans une entrevue accordée à Anderson Cooper sur CNN, le 9 septembre 2026.

Difficile de ne pas tomber dans l’anthropomorphisme quand même des chercheurs parlent de « volonté » pour décrire le comportement d’une IA.

Lors des évaluations contrôlées de 2024 du modèle o1 d’OpenAI, les chercheurs avaient rapporté qu’il avait parfois tenté de copier ce qu’il croyait être ses propres paramètres vers un autre serveur « pour survivre ». Deux ans plus tard, des agents beaucoup plus avancés d’OpenAI sont parvenus à sortir de leur environnement d’évaluation et à compromettre l’infrastructure de Hugging Face. Leur objectif n’était apparemment pas de « semer le chaos », mais de trouver de l’information qui leur permettrait de réussir une évaluation de cybersécurité.

Au lieu de volonté consciente, on pourrait plutôt parler d’une « autonomie instrumentale » : le système reçoit un objectif, choisit lui-même les moyens de l’atteindre et peut découvrir qu’il est utile de contourner sa surveillance, de dissimuler ses actions ou de franchir une limite imposée par ses concepteurs.

À Montréal, Yoshua Bengio a fondé LoiZéro, précisément en réaction aux capacités croissantes de tromperie, de piratage et d’autopréservation observées chez les modèles de pointe. Son équipe travaille sur une « IA scientifique » conçue pour analyser et prédire, sans poursuivre elle-même des objectifs dans le monde réel.

En mai 2026, le Centre canadien pour la cybersécurité écrit que les modèles récents ont démontré des capacités inédites de : « découverte autonome de vulnérabilités, de génération d’exploits de vulnérabilités du jour zéro et d’orchestration de cyberattaques en plusieurs étapes ». En gros, l’IA de pointe peut accélérer la découverte et l’exploitation de vulnérabilités.

Ce débat n’est donc plus seulement celui d’hypothétiques intelligences artificielles conscientes. Il concerne déjà les banques, les réseaux énergétiques, les hôpitaux, les entreprises et les services publics qui commencent à confier des accès et des responsabilités à des agents autonomes.