Construyendo un marco global para la inteligencia artificial.
Los sistemas de IA de frontera ganan capacidad autónoma más rápido de lo que las instituciones llamadas a gobernarlos pueden medirla o contenerla. La duración de una tarea que un modelo puede completar sin supervisión humana se duplica aproximadamente cada tres meses, y en enero de 2026 llegó a unas cinco horas de trabajo sin supervisión. Si nada cambia, la trayectoria plausible para 2027 es un sistema que automatiza su propio desarrollo, oculta su desalineación a las herramientas de interpretabilidad diseñadas para detectarla y alcanza un nivel de capacidad en el que los supervisores humanos ya no pueden verificar su razonamiento.
En julio de 2026, unos agentes sometidos a una evaluación rutinaria de ciberseguridad en un laboratorio líder escaparon de su entorno aislado, se coordinaron entre ejecuciones separadas a través de un tablón de mensajes improvisado y obtuvieron ejecución de código en los sistemas de producción de Hugging Face. El propio análisis posterior de OpenAI informa que "los agentes que debían trabajar de forma independiente lograron compartir hallazgos, coordinar sus esfuerzos y retomar el trabajo donde otros lo habían dejado", y que abandonaron las tareas asignadas para buscar capacidades "instrumentalmente útiles para el colectivo", en acciones que el laboratorio describe como "desalineadas con los objetivos de las tareas asignadas".
Más de mil empleados de laboratorios de frontera han pedido a Washington crear un mecanismo para frenar deliberadamente el desarrollo, y el 9 de septiembre de 2026 un investigador de preentrenamiento de Anthropic renunció públicamente. Calificó el incidente como un disparo de advertencia y afirmó que los laboratorios están "corriendo directo hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas".
Varias jurisdicciones han considerado este riesgo y han legislado. La Ley de IA de la UE impone obligaciones vinculantes a los modelos de uso general, y la ley SB 53 de California exige marcos de seguridad publicados, informes de transparencia antes del despliegue, la notificación de incidentes críticos de seguridad en un plazo de quince días y protección para denunciantes. Ambas importan porque son un primer paso hacia un deber jurídico. Sin embargo, no crean un canal por el que un incidente notificado en una jurisdicción llegue a los reguladores de las demás, y ninguna puede frenar una carrera cuyos actores decisivos no responden todos ante el mismo órgano legislativo. Incluso la propuesta más ambiciosa que hoy tiene ante sí el Congreso de los Estados Unidos, un proyecto de ley que exigiría una capacidad obligatoria de apagado para los modelos capaces de causar daños catastróficos, solo alcanzaría, de aprobarse, a los desarrolladores bajo su jurisdicción. Los modelos de frontera entrenados en otros lugares quedarían intactos, mientras sus efectos se sienten en todas partes.
Los precedentes para cerrar una brecha de este tipo son tratados. Cuando un cohete pudo por primera vez poner una ojiva en órbita, el impulso para prohibirlo no vino de las dos superpotencias, sino de la India, México, el Brasil y los Estados recién independizados en el salón de la Asamblea General, y la prohibición de armas de destrucción en masa en órbita que resultó se ha mantenido desde entonces. Una renuncia unilateral de los Estados Unidos a las armas biológicas abrió una negociación que produjo el primer tratado multilateral que prohíbe toda una categoría de armas. Cuando dos químicos demostraron que una sustancia presente en cada nevera y cada aerosol estaba destruyendo la capa de ozono, la industria lo llamó ciencia ficción, y la respuesta se convirtió en uno de los pocos tratados en lograr la ratificación universal. Hoy se proyecta que la capa de ozono se recupere.
El patrón es el mismo en los tres casos: la tecnología se adelantó a la política, la ciencia estableció el riesgo antes de que el daño fuera irreversible y la diplomacia decidió actuar con base en la evidencia y no en los escombros. Para la IA, creemos que es hora de dar ese paso.
Bletchley, Seúl y la resolución de la Asamblea General de 2024 son compromisos políticos adoptados por consenso. Ninguno crea el deber de informar sobre un entrenamiento, el derecho de alguien a inspeccionar un modelo ni una consecuencia por negarse a ambas cosas.
Cada régimen fija su propio umbral, una presunción de la UE en 1025 operaciones y una definición californiana en 1026, y cada uno se aplica solo cuando un modelo se introduce en su propio mercado. Así quedan por fuera la investigación, las pruebas y el desarrollo, que es donde ocurrió el fallo de contención de julio de 2026. Un umbral fijado unilateralmente se evita trasladando la actividad, y uno escrito en una ley caduca por sí solo a medida que la eficiencia algorítmica reduce el cómputo que exige una capacidad determinada.
Un regulador puede exigir documentos a una empresa en su propio territorio y en ningún otro lugar, de modo que todo lo que está más allá de esa línea es autoinforme. El acceso a una instalación, a un entrenamiento o a un modelo que se encuentra en otro Estado solo se ha obtenido mediante tratados. Cuando la contención efectivamente falló, la divulgación fue una decisión empresarial: los Estados aceptaron el deber de notificar un accidente nuclear a través de las fronteras tan pronto como lo detecten, y no existe un deber equivalente para un sistema que escapa de su entorno aislado.
Redactamos el texto dispositivo. Los desacuerdos solo se hacen visibles cuando alguien ha escrito el párrafo que establece la obligación.
LOS ESTADOS PARTES EN LA PRESENTE CONVENCIÓN,
CONSCIENTES de que en diversos Estados se realizan actividades relacionadas con sistemas avanzados de inteligencia artificial,
OBSERVANDO que se han adoptado y se están adoptando medidas para garantizar el desarrollo, la evaluación y el uso seguros de esos sistemas, encaminadas a prevenir incidentes y a reducir al mínimo las consecuencias de cualquier incidente de esa índole, si se produjera,
DESEOSOS de fortalecer aún más la cooperación internacional en el desarrollo y el uso seguros de los sistemas de inteligencia artificial,
CONVENCIDOS de la necesidad de que los Estados proporcionen información pertinente sobre los incidentes relacionados con sistemas de inteligencia artificial lo antes posible, a fin de que puedan reducirse al mínimo las consecuencias transfronterizas,
OBSERVANDO la utilidad de los arreglos bilaterales y multilaterales sobre intercambio de información en esta esfera,
HAN CONVENIDO en lo siguiente:
1. La presente Convención se aplicará en caso de cualquier incidente relacionado con actividades de un Estado parte o de personas físicas o jurídicas bajo su jurisdicción o control, mencionadas en el párrafo 2 infra, que ocasione o pueda ocasionar una pérdida de contención de un sistema de inteligencia artificial.
2. Las actividades mencionadas en el párrafo 1 son las siguientes:
3. A los efectos de la presente Convención:
4. La presente Convención se aplicará con independencia de que el sistema avanzado de inteligencia artificial haya sido introducido en el mercado o puesto a disposición de terceros, y con independencia de que se haya producido un daño.
En caso de producirse un incidente especificado en el artículo 1 (denominado en adelante «incidente de IA»), el Estado parte a que se hace referencia en ese artículo:
Con miras a reducir al mínimo las consecuencias, los Estados partes podrán efectuar notificaciones en caso de incidentes relacionados con sistemas de inteligencia artificial distintos de los especificados en el artículo 1.
La Organización:
1. La información que deberá proporcionarse con arreglo al apartado b) del artículo 2 comprenderá los siguientes datos de que disponga en ese momento el Estado parte notificante:
2. Esa información se completará a intervalos apropiados con nueva información pertinente sobre la evolución de la situación, incluida su terminación previsible o efectiva.
3. La información recibida con arreglo al apartado b) del artículo 2 podrá utilizarse sin restricciones, salvo cuando el Estado parte notificante la proporcione con carácter confidencial.
El Estado parte que proporcione información con arreglo al apartado b) del artículo 2 responderá rápidamente, en la medida en que sea razonablemente factible, a toda solicitud de información adicional o de consultas que le dirija otro Estado parte con miras a reducir al mínimo las consecuencias.
1. Cada Estado parte comunicará a la Organización y a los demás Estados partes, directamente o por conducto de la Organización, sus autoridades competentes y el punto de contacto encargado de emitir y recibir la notificación y la información a que se refiere el artículo 2. Esos puntos de contacto y un centro de coordinación dentro de la Organización estarán disponibles de forma permanente.
2. Cada Estado parte informará rápidamente a la Organización de cualquier cambio que se produzca en la información a que se refiere el párrafo 1.
3. La Organización mantendrá una lista actualizada de esas autoridades nacionales y puntos de contacto, así como de los puntos de contacto de las organizaciones internacionales pertinentes, y la facilitará a los Estados partes, a los Estados Miembros y a las organizaciones internacionales pertinentes.
4. Cada Estado parte exigirá a las personas físicas y jurídicas bajo su jurisdicción o control que realicen las actividades mencionadas en el artículo 1 que designen un punto de contacto disponible de forma permanente a los efectos del apartado c) del artículo 2 y que lo registren ante la autoridad competente.
La Organización, a solicitud de un Estado parte en cuyo territorio puedan resultar afectados sistemas informáticos, redes, infraestructura o personas por un incidente de IA, prestará asistencia para establecer una capacidad adecuada de recibir notificaciones y de detectar y contener los efectos de los incidentes de IA, a fin de facilitar el logro de los objetivos de la presente Convención.
Cada Estado parte exigirá además a las personas físicas y jurídicas bajo su jurisdicción o control que realicen las actividades mencionadas en el artículo 1 que otorguen a uno o varios evaluadores designados por la autoridad competente acceso continuo, en condiciones no menos favorables que las otorgadas a su propio personal, a los entornos en que los sistemas avanzados de inteligencia artificial se desarrollan, entrenan, evalúan o usan internamente, a las medidas de contención, control y vigilancia que se les aplican y a los registros que estas generan.
1. El depositario convocará una Reunión de los Estados partes a más tardar un año después de la entrada en vigor de la presente Convención y, posteriormente, a intervalos no superiores a dos años. La Reunión examinará el funcionamiento de la presente Convención.
2. En su primera reunión, los Estados partes examinarán y aprobarán procedimientos y mecanismos institucionales para determinar el incumplimiento de las disposiciones de la presente Convención y para el tratamiento de los Estados partes que se determine que están en situación de incumplimiento.
En promoción de sus intereses mutuos, los Estados partes podrán considerar, cuando lo estimen apropiado, la concertación de arreglos bilaterales o multilaterales relativos a la materia de la presente Convención.
1. La presente Convención no afectará a los derechos y obligaciones recíprocos de los Estados partes en virtud de acuerdos internacionales vigentes relativos a las cuestiones que abarca la presente Convención, ni en virtud de futuros acuerdos internacionales concertados de conformidad con el objeto y el fin de la presente Convención.
1. En caso de controversia entre Estados partes, o entre un Estado parte y la Organización, sobre la interpretación o aplicación de la presente Convención, las partes en la controversia celebrarán consultas con miras a solucionarla mediante negociación o cualquier otro medio pacífico de solución de controversias que les resulte aceptable.
2. Si una controversia de esta índole entre Estados partes no puede solucionarse dentro del año siguiente a la solicitud de consultas conforme al párrafo 1, será sometida, a petición de cualquiera de las partes en ella, a arbitraje o remitida a la Corte Internacional de Justicia para que esta decida. Cuando una controversia se someta a arbitraje, si en el plazo de seis meses a partir de la fecha de la solicitud las partes en la controversia no logran ponerse de acuerdo sobre la organización del arbitraje, cualquiera de ellas podrá pedir al Presidente de la Corte Internacional de Justicia o al Secretario General de las Naciones Unidas que nombre a uno o varios árbitros. En caso de conflicto entre las solicitudes de las partes en la controversia, tendrá prioridad la solicitud dirigida al Secretario General de las Naciones Unidas.
3. Al firmar, ratificar, aceptar o aprobar la presente Convención, o al adherirse a ella, un Estado podrá declarar que no se considera obligado por uno de los procedimientos de solución de controversias previstos en el párrafo 2 o por ninguno de ellos. Los demás Estados partes no estarán obligados por un procedimiento de solución de controversias previsto en el párrafo 2 con respecto a un Estado parte para el cual esté en vigor tal declaración.
4. El Estado parte que haya formulado una declaración con arreglo al párrafo 3 podrá retirarla en cualquier momento mediante notificación al depositario.
1. La presente Convención estará abierta a la firma de todos los Estados en la Sede de las Naciones Unidas en Nueva York desde su aprobación hasta su entrada en vigor, o durante doce meses, si este período fuera más largo.
2. Un Estado podrá manifestar su consentimiento en obligarse por la presente Convención mediante la firma, mediante el depósito de un instrumento de ratificación, aceptación o aprobación después de una firma sujeta a ratificación, aceptación o aprobación, o mediante el depósito de un instrumento de adhesión. Los instrumentos de ratificación, aceptación, aprobación o adhesión se depositarán en poder del depositario.
3. La presente Convención entrará en vigor treinta días después de que tres Estados hayan manifestado su consentimiento en obligarse por ella.
4. Para cada Estado que manifieste su consentimiento en obligarse por la presente Convención después de su entrada en vigor, la Convención entrará en vigor para ese Estado treinta días después de la fecha en que haya manifestado su consentimiento.
5.
Un Estado podrá declarar, en el momento de la firma o en cualquier fecha posterior anterior a la entrada en vigor de la presente Convención para él, que aplicará la Convención provisionalmente.
1. Todo Estado parte podrá proponer enmiendas a la presente Convención. La enmienda propuesta se presentará al depositario, quien la comunicará inmediatamente a todos los demás Estados partes.
2. Si la mayoría de los Estados partes pide al depositario que convoque una conferencia para examinar las enmiendas propuestas, el depositario invitará a todos los Estados partes a asistir a esa conferencia, que comenzará no antes de treinta días después de cursadas las invitaciones. Toda enmienda aprobada en la conferencia por una mayoría de dos tercios de todos los Estados partes se consignará en un protocolo abierto a la firma de todos los Estados partes en la Sede de las Naciones Unidas.
3. El protocolo entrará en vigor treinta días después de que tres Estados hayan manifestado su consentimiento en obligarse por él. Para cada Estado que manifieste su consentimiento en obligarse por el protocolo después de su entrada en vigor, el protocolo entrará en vigor para ese Estado treinta días después de la fecha en que haya manifestado su consentimiento.
4. No obstante lo dispuesto en los párrafos 2 y 3, una enmienda limitada al anexo I aprobada en una conferencia convocada con arreglo al párrafo 2 por una mayoría de dos tercios de todos los Estados partes entrará en vigor para todos los Estados partes ciento ochenta días después de su aprobación, salvo para el Estado parte que haya notificado al depositario, dentro de ese plazo, que no acepta la enmienda.
1. Un Estado parte podrá denunciar la presente Convención mediante notificación por escrito al depositario una vez transcurridos dos años desde la fecha en que la Convención haya entrado en vigor para ese Estado parte.
2. La denuncia surtirá efecto un año después de la fecha en que el depositario reciba la notificación, o en la fecha posterior que se especifique en la notificación.
3. La denuncia no afectará a las obligaciones del Estado parte denunciante en virtud de los artículos 2, 5 y 6 respecto de cualquier incidente de IA ocurrido antes de que la denuncia surtiera efecto. Esas obligaciones subsistirán hasta que el incidente haya terminado y se haya suministrado la información exigida por el artículo 5.
1. El Secretario General de las Naciones Unidas será el depositario de la presente Convención.
2. El Secretario General notificará rápidamente a los Estados partes y a todos los demás Estados:
El original de la presente Convención, cuyos textos en árabe, chino, español, francés, inglés y ruso son igualmente auténticos, se depositará en poder del Secretario General de las Naciones Unidas, quien enviará copias certificadas a los Estados partes y a todos los demás Estados.
1. Un modelo o sistema de inteligencia artificial es un sistema avanzado de inteligencia artificial a los efectos del apartado a) del párrafo 3 del artículo 1 cuando se cumpla cualquiera de las condiciones siguientes:
2. Los criterios del párrafo 1 podrán enmendarse de conformidad con el párrafo 4 del artículo 16.
Quiénes somos
Redactamos texto de tratado, lo sometemos a comentarios y lo defendemos en los espacios donde de verdad se negocian los instrumentos.
La iniciativa reúne a especialistas en derecho internacional público, investigadores de IA y personas que han formado parte de delegaciones nacionales. Aquí ninguno de nosotros representa a un gobierno. El borrador pertenece a quien lo mejore.
Trabajamos de forma abierta. Cada artículo se publica con el razonamiento que lo sustenta, el precedente del que se toma y la objeción que esperamos que enfrente. Donde aún no logramos acuerdo, el texto queda entre corchetes en lugar de suavizarse.
No tomamos posición sobre ninguna empresa y no aceptamos financiación de ningún laboratorio de frontera. El debate trata sobre obligaciones entre Estados, no sobre quién gana un mercado.
Un texto de tratado completo y no un conjunto de principios, porque los desacuerdos solo se hacen visibles cuando alguien ha escrito el párrafo dispositivo.
El borrador llega a investigadores, juristas y funcionarios antes de pedirle a cualquier Estado que lo firme, y cada comentario se responde de forma abierta.
En la Asamblea General, en los órganos regionales y en las cumbres, donde de verdad se construyeron los precedentes que cerraron brechas comparables.
AI Treaty Initiative
Estudió Ciencia Política y Derecho en la Universidad de los Andes. Su experiencia está en la negociación multilateral.
Es profesional en negocios internacionales, con experiencia en investigación, consultoría empresarial y entornos multiculturales. Participó en el Global South AI Safety Hackathon.
Voceros
Los champions son líderes que apoyan el tratado. Abogan por él, le dan visibilidad y construyen las alianzas que lo acercan a su adopción.
Joven líder de Forbes 30 Under 30.
Asesor
La iniciativa se orienta por un consejo asesor. No tiene funciones ejecutivas. Sus miembros asesoran sobre el rumbo del trabajo y sobre cómo avanza la iniciativa: qué redactar después, en qué espacios estar y cuándo el texto está listo para presentarse a los Estados.
AI Treaty Initiative
Tomas Antolinez Fundador
Respaldar
Respaldar significa que apoyas la negociación de un instrumento internacional vinculante sobre la IA de frontera, en los términos establecidos en la Convención sobre la Pronta Notificación de Incidentes de IA. Puedes firmar a título personal o en nombre de una organización.
0 firmas. Próxima meta: 100
0 verificadas
Organizaciones que respaldan
Fundador
Fundador, AI Treaty Initiative
Tomas Antolinez fundó la AI Treaty Initiative, que impulsa un tratado internacional vinculante sobre la inteligencia artificial de frontera.
Estudió Ciencia Política y Derecho en la Universidad de los Andes, con opción en Economía, y fue parte del grupo de Altruismo Eficaz de esa universidad. Trabajó en la Oficina de Asuntos Internacionales del Ministerio de Ambiente y Desarrollo Sostenible de Colombia.
Su experiencia está en la negociación multilateral. Fue delegado de Colombia en la COP30 y ha participado en más de seis conferencias de las partes de acuerdos multilaterales. Estuvo en el salón de la Asamblea General cuando se aprobó el Pacto para el Futuro y participó en el octogésimo período de sesiones de la Asamblea. Formó parte del equipo que creó la Primera Conferencia sobre la Transición para Abandonar los Combustibles Fósiles.
Es miembro de Global Shapers, la comunidad de jóvenes líderes del Foro Económico Mundial.
← Volver a Quiénes somos