Una propuesta de Estados Unidos a China abre una conversación necesaria sobre incidentes graves de inteligencia artificial. Para que sirva al mundo, esa conversación tendrá que ir más allá de sus dos protagonistas.
Por YJ. Montenegro — Lentes Prestados
Crecí escuchando a un comentarista deportivo que, cuando varios futbolistas talentosos se asociaban para construir una jugada de gol, decía: «Se unieron los que saben». Recordé la frase al conocer la propuesta de Estados Unidos a China para crear un mecanismo de notificación sobre incidentes de inteligencia artificial con implicaciones de seguridad nacional.
La imagen tiene sus límites. No estamos viendo una jugada ya coronada ni una alianza entre amigos. Por ahora, el secretario del Tesoro estadounidense, Scott Bessent, ha dicho que su país presentó la propuesta durante las conversaciones con el viceprimer ministro chino He Lifeng. China confirmó que ambos gobiernos hablaron de IA, pero no anunció que hubiera aceptado ese mecanismo. Lo que existe es una iniciativa estadounidense y un diálogo, no un sistema de alerta en funcionamiento. Associated Press documentó el anuncio.
Aun así, vale la pena detenerse en la escena. Estados Unidos y China concentran una capacidad extraordinaria para desarrollar inteligencia artificial y para decidir dónde y cómo se utiliza. Pero no son los únicos que llevan tiempo trabajando en esto. En 2024 se creó una Red Internacional de Institutos de Seguridad en IA con el Reino Unido, Francia y Australia entre sus miembros fundadores; Alemania impulsa el suyo propio, aunque todavía en construcción; India organizó su propia cumbre internacional sobre el tema y avanza en la misma dirección; Brasil discute en su Congreso un marco legal específico. Ninguno de ellos estaba en la mesa de la que habla esta propuesta. Y sería difícil construir una respuesta internacional a los riesgos más graves si las dos potencias que sí están en esa mesa se negaran siquiera a conversar.
Se sentaron, entonces, los que pueden hacer mucho. También quienes cargan con una responsabilidad especial por la escala de su poder. La pregunta es si lograrán abrir un camino al que puedan sumarse todos los que deben participar.
Una buena señal no es todavía una solución
Desde Lentes Prestados, celebro que dos gobiernos en competencia consideren la posibilidad de avisarse ante un incidente grave. En un mundo donde la IA se incorpora a sistemas de información, infraestructura, ciberseguridad y decisiones estatales, el silencio entre rivales podría agravar una crisis. Un aviso oportuno permitiría comprobar qué ocurrió antes de atribuir intenciones o responder precipitadamente.
La historia ofrece un precedente más ajustado que una alianza de guerra: en plena Guerra Fría, tras la crisis de los misiles de 1962, Estados Unidos y la Unión Soviética activaron una línea directa entre Washington y Moscú, no porque hubieran dejado de ser rivales, sino porque un malentendido en tiempo real podía costar más que la rivalidad misma. Tampoco esa comparación es perfecta: un teléfono para evitar una guerra nuclear no equivale a un mecanismo de notificación entre laboratorios y agencias de IA, y la inteligencia artificial no puede equipararse sin más a la bomba atómica. Pero la lección de fondo se sostiene: cuando el margen de error se vuelve intolerable, incluso los rivales abren un canal.
Antes de celebrar el gol, habría que saber siquiera cómo se juega esta parte del partido. Nadie ha dicho todavía qué contaría como incidente: si basta una falsa alarma generada por un sistema, si un ciberataque facilitado por IA cuenta igual que una falla en infraestructura crítica, o si el comportamiento inesperado de un modelo —sin daño demostrado— ya activaría el aviso. Tampoco se sabe quién tendría la obligación de notificar, ni bajo qué plazo: ¿la empresa que detecta el problema, la autoridad nacional, o ambas a la vez? Y falta la pregunta que en realidad decide si el mecanismo sirve o es una fachada: quién podría comprobar que el aviso describe un hecho real, sin obligar a un país a entregarle a su competidor información que ese mismo competidor podría usar en su contra.
Ninguna de estas preguntas tiene todavía una respuesta pública en la propuesta conocida. Sin ellas, «transparencia» sigue siendo una intención difícil de evaluar.
El problema de confiar en quienes compiten
La dificultad va más allá de diseñar un formulario de notificación. Estados Unidos y China compiten por capacidad tecnológica, influencia económica y seguridad nacional. Sus empresas invierten sumas enormes con la expectativa de obtener beneficios. En ese contexto, informar sobre una falla puede ser una muestra de responsabilidad, pero también puede revelar una debilidad a un rival, afectar una posición comercial o exponer una decisión estatal.
Por eso no bastaría con pedirles que prometan contarse la verdad. Un mecanismo creíble necesitaría definir qué se comunica, qué pruebas se conservan, qué partes pueden verificarse de manera independiente y qué ocurre si alguno oculta un incidente. También tendría que precisar cómo reciben información los países afectados que no participaron en el acuerdo inicial.
Un canal entre Washington y Pekín podría ser un comienzo valioso. No debería convertirse en un club de dos que decide, a puerta cerrada, qué riesgos merecen atención y qué daños pueden esperar los demás, mientras una red que ya lleva casi dos años de trabajo técnico en la materia se entera por la prensa. Los países expuestos, los organismos públicos competentes y especialistas con independencia de las empresas desarrolladoras tienen un papel que cumplir. La amplitud de esa participación dependerá del tipo de incidente y de la información que pueda compartirse sin empeorar una crisis; no significa que todos deban recibir datos clasificados.
La frase del comentarista vuelve, pero necesita una segunda mitad. Se reunieron los que pueden. Ojalá lo hagan con la seriedad de quienes saben cuánto está en juego. La jugada, sin embargo, no terminará bien si los que pueden confunden su capacidad con el derecho a decidir solos por todos los que podrían verse afectados.
Hoy hay una señal alentadora, y conviene no tratarla como más de lo que es. Falta ver si se convierte en algo exigible: una regla que alguien deba cumplir, una prueba que alguien pueda pedir, una responsabilidad que alguien no pueda esquivar. Ese es el partido que todavía no ha empezado.