L’intelligence artificielle est née comme une course: course à la puissance de calcul, aux données, aux meilleurs chercheurs et au prochain modèle capable de dépasser le précédent. Or, fait inédit, certains dirigeants directement engagés dans cette compétition demandent désormais de ralentir le rythme. Il ne s’agit pas d’arrêter l’innovation ni d’éteindre les data centers, mais de gagner du temps afin de vérifier que les systèmes deviennent plus sûrs à mesure qu’ils gagnent en autonomie.

La question est donc moins technologique que politique et économique: peut-on ralentir une révolution industrielle lorsque le concurrent, le client et parfois l’adversaire géopolitique n’ont aucune intention d’attendre?

Le débat s’est accéléré après la démission de Jacob Coxon, ancien chercheur chez OpenAI puis Anthropic. Il a accusé les deux laboratoires de se diriger trop vite vers des systèmes susceptibles de s’améliorer eux-mêmes, sans cadre de sécurité suffisamment robuste. Dario Amodei a ensuite appelé à «rythmer la frontière technologique».

Son diagnostic est simple: les capacités des modèles progressent peut-être plus vite que notre aptitude à les comprendre, à les tester et à les contrôler. Il ne propose pas une pause générale, mais un ralentissement ciblé pour les modèles les plus avancés, afin que la sécurité ne reste pas systématiquement en retard sur la performance.

Une pause mondiale paraît donc peu crédible; une régulation ciblée, avec des tests avant déploiement, une déclaration des incidents et un contrôle des capacités autonomes, l’est davantage.

L’idée serait d’introduire de véritables points de contrôle avant chaque saut de puissance. Si un modèle prouve qu’il peut contourner un environnement sécurisé, coordonner des agents, exploiter des outils numériques ou mener des opérations cybernétiques complexes, le laboratoire devrait démontrer qu’il maîtrise ce comportement avant d’aller plus loin.

Cette logique ressemble davantage à celle de l’aviation, du nucléaire ou de la pharmacie qu’à celle du logiciel traditionnel: on ne se contente pas de lancer un produit, on doit aussi démontrer qu’il est suffisamment sûr. La sécurité ne serait alors plus une promesse marketing, mais une contrainte de production avec des tests, des audits, des délais et des coûts.

La proposition comprendrait des évaluateurs indépendants au sein des laboratoires les plus avancés, des règles de sécurité communes entre groupes occidentaux et, à terme, un dialogue avec la Chine sur les usages les plus extrêmes de l’IA.

Sam Altman soutient l’idée d’un accès accru pour des évaluateurs indépendants, tandis qu’Elon Musk, Demis Hassabis et Satya Nadella ont également plaidé pour une progression plus délibérée. Une telle convergence reste rare, précisément parce qu’elle revient à reconnaître que la course technologique peut créer des risques qui dépassent les intérêts immédiats de chaque entreprise.

La réponse politique est toutefois beaucoup moins consensuelle. Donald Trump refuse l’idée d’un véritable ralentissement, au nom de la compétition avec la Chine et de la nécessité de préserver l’avance américaine.

David Sacks répond que les laboratoires n’ont pas besoin d’une autorisation politique pour ralentir: s’ils estiment qu’un modèle est dangereux, ils peuvent simplement décider de ne pas le construire. Le dilemme est clair: trop peu de règles peut conduire à un incident majeur, mais trop de contraintes peut affaiblir la capacité américaine à rester à la frontière technologique.

Ralentir est donc possible, mais seulement partiellement. Une entreprise peut repousser son calendrier, quelques leaders peuvent s’accorder sur des normes et un gouvernement peut imposer des obligations de transparence.

Aucune de ces mesures ne garantit cependant que tous les acteurs suivront, dans une industrie où les talents, les modèles et les capacités de calcul circulent rapidement. Les modèles ouverts compliquent encore l’équation: une fois diffusés, ils peuvent être copiés, modifiés et exécutés hors du contrôle du laboratoire d’origine.

Une pause mondiale paraît donc peu crédible; une régulation ciblée, avec des tests avant déploiement, une déclaration des incidents et un contrôle des capacités autonomes, l’est davantage.

Pour les marchés, l’enjeu n’est pas la fin de l’IA, mais la réallocation des dépenses. À court terme, le débat peut peser sur les entreprises dont la valorisation repose sur une accélération sans fin de la construction de data centers, de la demande de puces et de la consommation électrique. Mais il ne faut pas confondre un ralentissement du «frontier training» avec un arrêt des investissements.

L’inférence, les applications d’entreprise, la cybersécurité, le cloud et l’automatisation continueront de progresser. Les bénéficiaires pourraient être les entreprises capables de rendre l’IA plus sûre, plus explicable et plus contrôlable. Le gagnant ne sera peut-être pas celui qui annoncera le modèle le plus spectaculaire, mais celui qui saura transformer l’IA en productivité, en revenus et en confiance.