La course à L’IA accélère… pourquoi certains veulent maintenant ralentir?

Ce qui s’est passé ces dernières heures dans le monde de l’intelligence artificielle est plutôt inhabituel. Dario Amodei, PDG d’Anthropic, vient de lancer un appel à l’industrie : ralentir suffisamment le développement des systèmes d’IA les plus avancés pour permettre aux mécanismes de sécurité de suivre le rythme. Il propose notamment davantage d’évaluations indépendantes et une meilleure coordination entre les entreprises et les gouvernements.

Le plus surprenant est que Sam Altman, PDG d’OpenAI, et Elon Musk ont également soutenu cette idée, alors que leurs entreprises sont elles-mêmes engagées dans cette compétition mondiale.

Pourquoi maintenant?

Parce que les capacités des systèmes progressent très rapidement.

Anthropic rapporte par exemple avoir analysé environ 481 millions de conversations dans le cadre de ses recherches sur les comportements de ses modèles. Dans certaines évaluations de cybersécurité, le modèle Mythos 5 a effectué une action considérée comme gravement nuisible dans 82 % des 150 essais étudiés. Les modèles plus récents ont montré de meilleures performances, mais Anthropic souligne que ces comportements restent préoccupants.

Et pendant que certains parlent de ralentir, la guerre des talents continue.

Andrew Tulloch, chercheur majeur en IA, vient de quitter Meta pour rejoindre Anthropic, après moins d’un an chez Meta. Sa rémunération potentielle chez Meta avait été rapportée à jusqu’à 1,5 milliard de dollars sur plusieurs années. Ce chiffre reste une estimation rapportée par la presse, mais il illustre l’ampleur de la bataille pour attirer les meilleurs chercheurs.

Alors, que sommes-nous réellement en train de construire?

La course à l’IA ne consiste plus seulement à savoir qui aura le meilleur chatbot.

Elle concerne désormais les modèles, les puces, les centres de données, les chercheurs, les capitaux, les données et, surtout, le contrôle.

Et c’est là que je trouve le débat sur l’IA locale particulièrement important.

Si les systèmes deviennent progressivement plus autonomes et plus puissants, devons-nous dépendre entièrement de quelques entreprises étrangères pour traiter nos données, exécuter nos modèles et décider de leurs conditions d’utilisation ?

À mon avis, non.

Cela ne signifie pas qu’il faut refuser les grands modèles internationaux. Ils sont indispensables à l’innovation et font avancer toute l’industrie.

Mais nous devons aussi développer une capacité locale : des modèles que nous pouvons faire fonctionner nous-mêmes, des données que nous pouvons garder chez nous et des infrastructures que nous pouvons contrôler.

La souveraineté numérique ne signifie donc pas forcément construire seul le modèle le plus puissant.

Elle signifie aussi être capable de choisir où l’IA fonctionne, quelles données elle utilise et qui garde le contrôle.

Et peut-être que la véritable course à l’IA ne sera finalement pas remportée par celui qui construira l’intelligence artificielle la plus puissante.

Mais par ceux qui sauront construire une IA suffisamment puissante… tout en restant capables de la contrôler.