La Finlande et la Norvège veulent renforcer l’encadrement des modèles d’IA les plus avancés. En marge de la semaine de haut niveau de l’ONU, ils ont proposé une déclaration commune intitulée « A Call for Control of Frontier AI Models » destinée à peser sur les négociations à venir concernant la gouvernance mondiale de l’IA.

Le document part d’un constat mesuré. Si l’IA produit des bénéfices considérables, les systèmes de pointe présentent des risques de sécurité tangibles lorsqu’ils échappent à un contrôle suffisant.

Il évoque les cas où des modèles ont réussi à déjouer des protocoles de test pour s’introduire dans des systèmes sans autorisation. Un risque plus diffus est également mentionné : celui que le rythme d’avancée technologique dépasse la capacité des États, des entreprises et de la société civile à en maîtriser les conséquences.

Il est notable que le texte reste volontairement large. Il ne mentionne explicitement ni les armes biologiques, ni les cyber-opérations étatiques, ni la désinformation, ni les usages militaires, ni la perte de contrôle d’agents autonomes. Autant de sujets pourtant débattus en parallèle, notamment par OpenAI et Anthropic, lors de la même semaine onusienne.

Cette omission peut se lire comme un choix de prudence diplomatique, destiné à rassembler large plutôt qu’à trancher sur des points sensibles.

La déclaration distingue trois catégories de destinataires.

Aux entreprises développant des modèles de pointe, elle demande des protocoles de sécurité transparents, des tests obligatoires avant tout déploiement et des évaluations indépendantes, avec un accès suffisant accordé aux évaluateurs qualifiés.

Aux gouvernements et organisations régionales, elle demande de converger vers des normes communes et de mieux partager l'information sur les incidents de sécurité graves. Dans ce cadre, un accès équitable à l'expertise scientifique, y compris pour les pays les moins dotés, doit être garanti

Aux États membres de l'ONU, enfin, elle suggère de s'appuyer sur les mécanismes multilatéraux existants et d'étudier la création d'une instance internationale chargée de fixer des normes, d'en vérifier l'application et de convoquer les États en cas de franchissement d'un seuil de capacité jugé critique.

Vingt-deux pays* ont apposé leur signature, aux côtés de la Commission européenne. L'absence de certaines grandes puissances technologiques parmi les signataires souligne les limites de l'exercice. Ca la déclaration relève de l'incitation politique qui ne prévoit ni sanction, ni procédure d'adhésion formelle, ni calendrier précis de mise en œuvre.

Le secrétaire général de l'ONU, António Guterres, a salué l'initiative et repris à son compte les trois piliers proposés tout en appelant les laboratoires d'IA à alimenter les travaux du Groupe scientifique international indépendant de l’IA, l'organe onusien censé objectiver le débat scientifique sur ces risques.

*Parmi eux l'Australie, le Canada, l'Allemagne, l'Espagne, Singapour, l'Afrique du Sud, la Turquie et les Émirats arabes unis.