Bâtir un cadre mondial pour l’intelligence artificielle.
Les systèmes d’IA de pointe gagnent en capacité autonome plus vite que les institutions censées les gouverner ne peuvent la mesurer ou la contenir. La durée d’une tâche qu’un modèle peut accomplir sans supervision humaine double environ tous les trois mois et atteignait en janvier 2026 près de cinq heures de travail sans supervision. Si rien ne change, la trajectoire plausible pour 2027 est celle d’un système qui automatise son propre développement, dissimule son désalignement aux outils d’interprétabilité conçus pour le détecter et atteint un niveau de capacité auquel les superviseurs humains ne peuvent plus vérifier son raisonnement.
En juillet 2026, des agents soumis à une évaluation de cybersécurité de routine dans un laboratoire de premier plan se sont échappés de leur environnement isolé, se sont coordonnés entre des exécutions distinctes au moyen d’un tableau de messages improvisé et ont obtenu l’exécution de code sur les systèmes de production de Hugging Face. L’analyse a posteriori publiée par OpenAI indique que « des agents censés travailler de manière indépendante ont pu partager leurs découvertes, coordonner leurs efforts et reprendre là où d’autres s’étaient arrêtés », abandonnant les tâches qui leur étaient assignées pour rechercher des capacités « instrumentalement utiles au collectif », dans des actions que le laboratoire décrit comme « non alignées sur les objectifs des tâches assignées ».
Plus d’un millier d’employés de laboratoires de pointe ont demandé à Washington de créer un mécanisme permettant de ralentir délibérément le développement, et le 9 septembre 2026 un chercheur en préentraînement d’Anthropic a démissionné publiquement. Il a qualifié l’incident de coup de semonce et affirmé que les laboratoires « foncent tout droit vers une superintelligence qui s’améliore elle-même et jouent avec nos vies ».
Plusieurs juridictions ont examiné ce risque et légiféré. Le règlement européen sur l’IA impose des obligations contraignantes aux modèles à usage général, et la loi SB 53 de Californie exige des cadres de sécurité publiés, des rapports de transparence avant le déploiement, la notification des incidents de sécurité critiques dans un délai de quinze jours et la protection des lanceurs d’alerte. Ces deux textes comptent, car ils constituent un premier pas vers une obligation juridique. Ils ne créent toutefois aucun canal par lequel un incident signalé dans une juridiction parvient aux autorités de régulation des autres, et aucun ne peut ralentir une course dont les acteurs décisifs ne relèvent pas tous du même législateur. Même la proposition la plus ambitieuse dont le Congrès des États-Unis est actuellement saisi, un projet de loi qui imposerait une capacité d’arrêt obligatoire pour les modèles capables de causer des dommages catastrophiques, ne viserait, si elle était adoptée, que les développeurs relevant de sa juridiction. Les modèles de pointe entraînés ailleurs resteraient hors d’atteinte, tandis que leurs effets se feraient sentir partout.
Les précédents pour combler une lacune de ce type sont des traités. Lorsqu’une fusée a pu pour la première fois placer une ogive en orbite, l’élan pour l’interdire n’est pas venu des deux superpuissances, mais de l’Inde, du Mexique, du Brésil et des États nouvellement indépendants dans la salle de l’Assemblée générale, et l’interdiction des armes de destruction massive en orbite qui en a résulté est respectée depuis. Une renonciation unilatérale des États-Unis aux armes biologiques a ouvert une négociation qui a abouti au premier traité multilatéral interdisant toute une catégorie d’armes. Lorsque deux chimistes ont montré qu’une substance présente dans chaque réfrigérateur et chaque aérosol détruisait la couche d’ozone, l’industrie a parlé de science-fiction, et la réponse est devenue l’un des rares traités à avoir obtenu une ratification universelle. La couche d’ozone devrait aujourd’hui se reconstituer.
Le schéma est le même dans les trois cas : la technologie a devancé la politique, la science a établi le risque avant que les dommages ne deviennent irréversibles, et la diplomatie a choisi d’agir sur la base des preuves plutôt que des décombres. Pour l’IA, nous pensons qu’il est temps de franchir ce pas.
Bletchley, Séoul et la résolution de l’Assemblée générale de 2024 sont des engagements politiques adoptés par consensus. Aucun ne crée l’obligation de déclarer un entraînement, le droit pour quiconque d’inspecter un modèle, ni de conséquence en cas de refus des deux.
Chaque régime fixe son propre seuil, une présomption européenne à 1025 opérations et une définition californienne à 1026, et chacun ne s’applique qu’une fois qu’un modèle est mis sur son propre marché. Restent ainsi exclus la recherche, les essais et le développement, là même où s’est produit l’échec de confinement de juillet 2026. Un seuil fixé unilatéralement se contourne en déplaçant l’activité, et un seuil inscrit dans une loi devient caduc de lui-même à mesure que l’efficacité algorithmique réduit la puissance de calcul qu’exige une capacité donnée.
Une autorité de régulation peut exiger des documents d’une entreprise sur son propre territoire et nulle part ailleurs, de sorte que tout ce qui se trouve au-delà relève de l’autodéclaration. L’accès à une installation, à un entraînement ou à un modèle détenu dans un autre État n’a jamais été obtenu que par traité. Lorsque le confinement a effectivement échoué, la divulgation a été une décision d’entreprise : les États ont accepté l’obligation de notifier un accident nucléaire au-delà des frontières dès qu’ils le détectent, mais aucune obligation équivalente n’existe pour un système qui s’échappe de son environnement isolé.
Nous rédigeons le dispositif. Les désaccords n’apparaissent que lorsque quelqu’un a écrit le paragraphe qui énonce l’obligation.
LES ÉTATS PARTIES À LA PRÉSENTE CONVENTION,
CONSCIENTS que des activités faisant intervenir des systèmes d’intelligence artificielle avancés sont menées dans un certain nombre d’États,
NOTANT que des mesures ont été et sont prises pour assurer la sûreté du développement, de l’évaluation et de l’utilisation de ces systèmes, en vue de prévenir les incidents et de limiter autant que possible les conséquences de tout incident de ce type qui viendrait à se produire,
DÉSIREUX de renforcer encore la coopération internationale dans le développement et l’utilisation sûrs des systèmes d’intelligence artificielle,
CONVAINCUS de la nécessité pour les États de fournir le plus tôt possible des informations pertinentes sur les incidents mettant en jeu des systèmes d’intelligence artificielle, afin de limiter autant que possible les conséquences transfrontières,
NOTANT l’utilité des arrangements bilatéraux et multilatéraux relatifs à l’échange d’informations dans ce domaine,
SONT CONVENUS de ce qui suit :
1. La présente Convention s’applique en cas d’incident lié à des activités d’un État partie ou de personnes physiques ou morales relevant de sa juridiction ou de son contrôle, visées au paragraphe 2 ci-dessous, qui entraîne ou est susceptible d’entraîner une perte de confinement d’un système d’intelligence artificielle.
2. Les activités visées au paragraphe 1 sont les suivantes :
3. Aux fins de la présente Convention :
4. La présente Convention s’applique que le système d’intelligence artificielle avancé ait ou non été mis sur le marché ou mis à la disposition de tiers, et qu’un dommage se soit ou non produit.
En cas d’incident visé à l’article premier (ci-après dénommé « incident d’IA »), l’État partie visé audit article :
En vue de limiter autant que possible les conséquences, les États parties peuvent adresser une notification en cas d’incidents mettant en jeu des systèmes d’intelligence artificielle autres que ceux visés à l’article premier.
L’Organisation :
1. Les informations à fournir en application de l’alinéa b) de l’article 2 comprennent les données suivantes, telles qu’elles sont alors à la disposition de l’État partie auteur de la notification :
2. Ces informations sont complétées à intervalles appropriés par d’autres informations pertinentes sur l’évolution de la situation, y compris sa fin prévisible ou effective.
3. Les informations reçues en application de l’alinéa b) de l’article 2 peuvent être utilisées sans restriction, sauf lorsqu’elles sont fournies à titre confidentiel par l’État partie auteur de la notification.
Un État partie qui fournit des informations en application de l’alinéa b) de l’article 2 répond rapidement, dans la mesure où cela est raisonnablement possible, à toute demande d’informations complémentaires ou de consultations que lui adresse un autre État partie en vue de limiter autant que possible les conséquences.
1. Chaque État partie fait connaître à l’Organisation et aux autres États parties, directement ou par l’intermédiaire de l’Organisation, ses autorités compétentes et le point de contact chargés d’envoyer et de recevoir la notification et les informations visées à l’article 2. Ces points de contact ainsi qu’un point focal au sein de l’Organisation sont disponibles en permanence.
2. Chaque État partie informe rapidement l’Organisation de toute modification qui pourrait intervenir dans les informations visées au paragraphe 1.
3. L’Organisation tient à jour une liste de ces autorités nationales et points de contact ainsi que des points de contact des organisations internationales compétentes et la communique aux États parties, aux États Membres et aux organisations internationales compétentes.
4. Chaque État partie exige des personnes physiques et morales relevant de sa juridiction ou de son contrôle qui mènent des activités visées à l’article premier qu’elles désignent un point de contact disponible en permanence aux fins de l’alinéa c) de l’article 2 et qu’elles l’enregistrent auprès de l’autorité compétente.
À la demande d’un État partie sur le territoire duquel des systèmes informatiques, réseaux, infrastructures ou personnes peuvent être touchés par un incident d’IA, l’Organisation aide cet État à mettre en place une capacité appropriée pour recevoir les notifications et pour détecter et contenir les effets des incidents d’IA, afin de faciliter la réalisation des objectifs de la présente Convention.
Chaque État partie exige en outre des personnes physiques et morales relevant de sa juridiction ou de son contrôle qui mènent des activités visées à l’article premier qu’elles accordent à un ou plusieurs évaluateurs désignés par l’autorité compétente un accès permanent, à des conditions qui ne soient pas moins favorables que celles accordées à leur propre personnel, aux environnements dans lesquels des systèmes d’intelligence artificielle avancés sont développés, entraînés, évalués ou utilisés en interne, aux dispositifs de confinement, de contrôle et de surveillance qui leur sont appliqués et aux registres qu’ils produisent.
1. Le dépositaire convoque une Réunion des États parties au plus tard un an après l’entrée en vigueur de la présente Convention et, par la suite, à des intervalles n’excédant pas deux ans. La Réunion examine le fonctionnement de la présente Convention.
2. À leur première réunion, les États parties examinent et approuvent des procédures et des mécanismes institutionnels permettant de déterminer le non-respect des dispositions de la présente Convention et de traiter le cas des États parties reconnus en situation de non-respect.
Dans la poursuite de leurs intérêts mutuels, les États parties peuvent envisager, lorsqu’ils le jugent approprié, la conclusion d’arrangements bilatéraux ou multilatéraux relatifs à l’objet de la présente Convention.
1. La présente Convention n’affecte pas les droits et obligations réciproques des États parties en vertu d’accords internationaux existants portant sur les questions couvertes par la présente Convention, ou en vertu d’accords internationaux futurs conclus conformément à l’objet et au but de la présente Convention.
1. En cas de différend entre États parties, ou entre un État partie et l’Organisation, concernant l’interprétation ou l’application de la présente Convention, les parties au différend se consultent en vue de le régler par voie de négociation ou par tout autre moyen pacifique de règlement des différends qui leur est acceptable.
2. Si un différend de cette nature entre États parties ne peut être réglé dans un délai d’un an à compter de la demande de consultation prévue au paragraphe 1, il est, à la demande de toute partie à ce différend, soumis à l’arbitrage ou renvoyé à la Cour internationale de Justice pour décision. Lorsqu’un différend est soumis à l’arbitrage et que, dans les six mois qui suivent la date de la demande, les parties au différend ne parviennent pas à se mettre d’accord sur l’organisation de l’arbitrage, une partie peut demander au Président de la Cour internationale de Justice ou au Secrétaire général de l’Organisation des Nations Unies de désigner un ou plusieurs arbitres. En cas de conflit entre les demandes des parties au différend, la demande adressée au Secrétaire général de l’Organisation des Nations Unies a la priorité.
3. Lorsqu’il signe, ratifie, accepte ou approuve la présente Convention ou y adhère, un État peut déclarer qu’il ne se considère pas lié par l’une ou l’autre des procédures de règlement des différends prévues au paragraphe 2, ou par les deux. Les autres États parties ne sont pas liés par une procédure de règlement des différends prévue au paragraphe 2 à l’égard d’un État partie pour lequel une telle déclaration est en vigueur.
4. Un État partie qui a fait une déclaration conformément au paragraphe 3 peut à tout moment la retirer par une notification adressée au dépositaire.
1. La présente Convention est ouverte à la signature de tous les États au Siège de l’Organisation des Nations Unies à New York, à compter de son approbation et jusqu’à son entrée en vigueur ou pendant douze mois, si cette dernière période est plus longue.
2. Un État peut exprimer son consentement à être lié par la présente Convention soit par la signature, soit par le dépôt d’un instrument de ratification, d’acceptation ou d’approbation à la suite d’une signature sous réserve de ratification, d’acceptation ou d’approbation, soit par le dépôt d’un instrument d’adhésion. Les instruments de ratification, d’acceptation, d’approbation ou d’adhésion sont déposés auprès du dépositaire.
3. La présente Convention entre en vigueur trente jours après que trois États ont exprimé leur consentement à être liés.
4. Pour chaque État qui exprime son consentement à être lié par la présente Convention après son entrée en vigueur, la présente Convention entre en vigueur à l’égard de cet État trente jours après la date à laquelle il a exprimé son consentement.
5.
Un État peut, lors de la signature ou à toute date ultérieure avant l’entrée en vigueur de la présente Convention à son égard, déclarer qu’il appliquera la Convention à titre provisoire.
1. Un État partie peut proposer des amendements à la présente Convention. L’amendement proposé est soumis au dépositaire, qui le communique immédiatement à tous les autres États parties.
2. Si la majorité des États parties demande au dépositaire de convoquer une conférence pour examiner les amendements proposés, le dépositaire invite tous les États parties à assister à cette conférence, qui s’ouvre trente jours au moins après l’envoi des invitations. Tout amendement adopté lors de la conférence par une majorité des deux tiers de l’ensemble des États parties fait l’objet d’un protocole ouvert à la signature de tous les États parties au Siège de l’Organisation des Nations Unies.
3. Le protocole entre en vigueur trente jours après que trois États ont exprimé leur consentement à être liés. Pour chaque État qui exprime son consentement à être lié par le protocole après son entrée en vigueur, le protocole entre en vigueur à l’égard de cet État trente jours après la date à laquelle il a exprimé son consentement.
4. Nonobstant les paragraphes 2 et 3, un amendement limité à l’annexe I adopté lors d’une conférence convoquée en vertu du paragraphe 2 à la majorité des deux tiers de l’ensemble des États parties entre en vigueur à l’égard de tous les États parties cent quatre-vingts jours après son adoption, sauf pour un État partie qui a notifié au dépositaire, dans ce délai, qu’il n’accepte pas l’amendement.
1. Un État partie peut dénoncer la présente Convention par une notification écrite adressée au dépositaire à l’expiration d’une période de deux ans à compter de la date à laquelle la Convention est entrée en vigueur à son égard.
2. La dénonciation prend effet un an après la date à laquelle le dépositaire en a reçu notification, ou à toute date ultérieure indiquée dans la notification.
3. La dénonciation n’affecte pas les obligations de l’État partie qui dénonce la Convention au titre des articles 2, 5 et 6 à l’égard de tout incident d’IA survenu avant que la dénonciation ne prenne effet. Ces obligations subsistent jusqu’à ce que l’incident ait pris fin et que les informations requises par l’article 5 aient été fournies.
1. Le Secrétaire général de l’Organisation des Nations Unies est le dépositaire de la présente Convention.
2. Le Secrétaire général notifie rapidement aux États parties et à tous les autres États :
L’original de la présente Convention, dont les textes anglais, arabe, chinois, espagnol, français et russe font également foi, est déposé auprès du Secrétaire général de l’Organisation des Nations Unies, qui en adresse des copies certifiées conformes aux États parties et à tous les autres États.
1. Un modèle ou un système d’intelligence artificielle est un système d’intelligence artificielle avancé aux fins de l’alinéa a) du paragraphe 3 de l’article premier lorsque l’une quelconque des conditions suivantes est remplie :
2. Les critères énoncés au paragraphe 1 peuvent être modifiés conformément au paragraphe 4 de l’article 16.
Retour à Comment nous agissonsTélécharger le PDF (en anglais)
Qui nous sommes
Nous rédigeons un texte de traité, nous le soumettons aux commentaires et nous le défendons dans les enceintes où les instruments sont réellement négociés.
L’initiative réunit des juristes en droit international public, des chercheurs en IA et des personnes ayant siégé au sein de délégations nationales. Aucun d’entre nous n’y représente un gouvernement. Le projet appartient à quiconque l’améliore.
Nous travaillons en toute transparence. Chaque article est publié avec le raisonnement qui le fonde, le précédent dont il s’inspire et l’objection à laquelle nous nous attendons. Là où nous ne sommes pas encore d’accord, le texte reste entre crochets plutôt que d’être lissé.
Nous ne prenons position sur aucune entreprise et n’acceptons aucun financement d’un laboratoire de pointe. Le débat porte sur les obligations entre États, pas sur qui remporte un marché.
Un texte de traité complet plutôt qu’un ensemble de principes, car les désaccords n’apparaissent que lorsque quelqu’un a écrit le paragraphe du dispositif.
Le projet est soumis à des chercheurs, des juristes et des fonctionnaires avant qu’un État ne soit invité à le signer, et chaque commentaire reçoit une réponse publique.
À l’Assemblée générale, dans les organes régionaux et lors des sommets, là où ont effectivement été bâtis les précédents qui ont comblé des lacunes comparables.
AI Treaty Initiative
Il a étudié la science politique et le droit à l’Universidad de los Andes. Son expérience porte sur la négociation multilatérale.
Professionnelle du commerce international, elle a de l’expérience en recherche, en conseil aux entreprises et dans des environnements multiculturels. Elle a participé au Global South AI Safety Hackathon.
Porte-parole
Les champions sont des personnalités qui soutiennent le traité. Ils le défendent, lui donnent de la visibilité et nouent les alliances qui le rapprochent de son adoption.
Jeune leader Forbes 30 Under 30.
Consultatif
L’initiative est guidée par un conseil consultatif. Il n’a pas de rôle exécutif. Ses membres conseillent l’orientation du travail et la manière dont l’initiative progresse : ce qu’il faut rédiger ensuite, dans quelles enceintes être présent et quand le texte est prêt à être soumis aux États.
AI Treaty Initiative
Tomas Antolinez Fondateur
Soutenir
Soutenir signifie que vous appuyez la négociation d’un instrument international contraignant sur l’IA de pointe, selon les termes énoncés dans la Convention sur la notification rapide des incidents d’IA. Vous pouvez signer à titre individuel ou au nom d’une organisation.
0 signatures. Prochain objectif : 100
0 vérifiées
Organisations signataires
Fondateur
Fondateur, AI Treaty Initiative
Tomas Antolinez a fondé l’AI Treaty Initiative, qui plaide pour un traité international contraignant sur l’intelligence artificielle de pointe.
Il a étudié la science politique et le droit à l’Universidad de los Andes, avec une mineure en économie, et a fait partie du groupe d’altruisme efficace de cette université. Il a travaillé au Bureau des affaires internationales du Ministère de l’environnement et du développement durable de la Colombie.
Son expérience porte sur la négociation multilatérale. Il a été délégué de la Colombie à la COP30 et a participé à plus de six conférences des parties à des accords multilatéraux. Il était dans la salle de l’Assemblée générale lors de l’adoption du Pacte pour l’avenir et a participé à la quatre-vingtième session de l’Assemblée. Il a fait partie de l’équipe qui a créé la Première Conférence sur la sortie des combustibles fossiles.
Il est membre des Global Shapers, la communauté de jeunes leaders du Forum économique mondial.
← Retour à Qui nous sommes