China regula desde el Estado. Estados Unidos depende en buena medida de las empresas que construyen los modelos. Contar cuántas reglas impone cada uno dice poco: lo decisivo es quién define el peligro, quién puede comprobarlo y quién responde cuando algo sale mal.
Los últimos días han sido especialmente agitados para la inteligencia artificial. Algunos de los principales dirigentes de la industria estadounidense han pedido reducir el ritmo de desarrollo, establecer evaluaciones obligatorias y someter los modelos más avanzados a una supervisión mayor. El Gobierno de Donald Trump se resiste a intervenir con la misma intensidad. China responde que las advertencias sobre seguridad pueden esconder un intento de contener su avance tecnológico.
De pronto, las empresas que durante años compitieron por avanzar más rápido parecen pedir que alguien establezca límites comunes.
Para millones de personas, sin embargo, la discusión transcurre en un idioma distante. Utilizamos inteligencia artificial para escribir, buscar información, traducir, estudiar o programar, pero apenas comprendemos cómo funciona. Tampoco es una situación completamente nueva. Cambiamos de teléfono porque nos dicen que el nuevo es más potente, aunque no sepamos explicar qué hace técnicamente superior al procesador ni lleguemos a utilizar una parte considerable de sus posibilidades.
Con la inteligencia artificial ocurre algo parecido, pero las consecuencias son mayores. No estamos decidiendo únicamente qué dispositivo comprar. Estamos incorporando sistemas capaces de intervenir en la educación, el trabajo, la información, la investigación científica, la seguridad nacional y las decisiones de los gobiernos.
La distancia entre utilizar una tecnología y comprenderla no desaparecerá. Ninguna sociedad puede exigir que cada ciudadano se convierta en ingeniero antes de usar un producto. La democracia funciona precisamente porque creamos instituciones para traducir conocimientos especializados en reglas públicas, responsabilidades y mecanismos de control.
El problema comienza cuando esas instituciones tampoco comprenden completamente la tecnología y deben depender de las mismas empresas que la desarrollan para saber qué riesgos deben regular.
Este es el primero de una serie de artículos sobre la gobernanza de la inteligencia artificial. Antes de discutir si una norma concreta es suficiente, necesitamos observar los modelos que están compitiendo por ordenar esta nueva frontera: el poder regulatorio del Estado chino, la autorregulación técnica de las empresas estadounidenses y el intento europeo de convertir algunas de esas prácticas en obligaciones legales.
Antes de regular, hay que saber de qué hablamos
Un modelo de frontera no es simplemente el chatbot más nuevo ni el producto que ocupa el primer lugar en una clasificación. La expresión se utiliza para describir los modelos de propósito general que se encuentran cerca del límite de las capacidades disponibles en un momento determinado.
Ese límite cambia rápidamente. Un sistema considerado extraordinario hace dos años puede volverse común después. Por eso resulta insuficiente regular una lista de nombres comerciales. Lo importante es identificar capacidades: si un modelo puede ayudar de manera significativa a ejecutar un ciberataque, facilitar la creación de una amenaza biológica, manipular a grandes grupos de personas, actuar durante periodos prolongados sin supervisión o contribuir al desarrollo de modelos todavía más poderosos.
También conviene separar riesgos diferentes que suelen aparecer mezclados bajo la palabra «seguridad».
Un sistema puede discriminar al seleccionar candidatos para un empleo. Puede inventar información médica. Puede producir pornografía sin consentimiento, vulnerar derechos de autor o recopilar datos personales. Puede utilizarse para difundir propaganda. Y un modelo mucho más capaz podría permitir que un grupo pequeño cause daños que antes exigían conocimientos, recursos e infraestructura considerablemente mayores.
No todos estos peligros requieren la misma respuesta. La protección de datos, la defensa del consumidor, la moderación de contenidos y el control de capacidades catastróficas pertenecen al mismo debate, pero no son el mismo problema.
Esta distinción es esencial para comparar a China y Estados Unidos. Ambos hablan de seguridad. No siempre están protegiendo lo mismo.
China: un Estado capaz de intervenir
China ha desarrollado una de las arquitecturas regulatorias más extensas para los servicios de inteligencia artificial generativa. Sus reglas se apoyan en disposiciones anteriores sobre algoritmos de recomendación y síntesis profunda. Las medidas de 2023 para servicios generativos exigen proteger datos personales, responder por determinados contenidos, atender reclamaciones y colaborar con las autoridades. Los servicios con capacidad de influir en la opinión pública o movilizar socialmente deben someterse a evaluaciones de seguridad y registrar sus algoritmos.
En 2025, China añadió normas para identificar contenido generado o alterado mediante inteligencia artificial. Las plataformas deben incorporar marcas visibles en determinados casos y señales técnicas menos perceptibles dentro de los archivos. El objetivo es facilitar la trazabilidad y reducir la circulación engañosa de material sintético.
Este sistema posee una ventaja evidente: no depende exclusivamente de la buena voluntad de las empresas. El Estado puede solicitar información, exigir correcciones, suspender servicios y aplicar normas comunes antes de que cada compañía decida voluntariamente adoptarlas.
Pero una regulación intensa no es necesariamente una regulación completa.
Buena parte de las normas chinas se concentra en servicios ofrecidos al público, contenidos, datos, estabilidad social y control de la información. La seguridad también incluye la defensa del orden político y de los criterios ideológicos establecidos por el Estado. Un modelo puede estar cuidadosamente controlado para no producir determinadas respuestas y, aun así, carecer de un marco público suficientemente detallado sobre capacidades biológicas, autonomía avanzada o pérdida de control.
Además, la capacidad estatal para exigir información no equivale a transparencia ante los ciudadanos. Las autoridades pueden conocer más que el público sin que existan mecanismos independientes para examinar sus decisiones. Un sistema controlable por el Estado no es automáticamente un sistema seguro para la sociedad.
Las empresas chinas han comenzado a publicar más información. DeepSeek ofrece fichas de modelos y declara realizar evaluaciones de seguridad y pruebas adversariales. Alibaba presenta un esquema de gobernanza que recorre el diseño, el entrenamiento, la evaluación y el despliegue de Qwen. Zhipu fue una de las compañías chinas que asumió los compromisos internacionales de seguridad promovidos en la cumbre de Seúl.
Sin embargo, en sus documentos públicos todavía resulta más difícil encontrar umbrales precisos que conecten una capacidad peligrosa con una decisión obligatoria de no entrenar, no liberar o no desplegar un modelo. China posee un aparato estatal más fuerte, pero sus empresas muestran menos públicamente sobre la manera en que gobiernan los riesgos específicos de la frontera.
Estados Unidos: las empresas escribieron las primeras reglas
Estados Unidos presenta la situación inversa. Produce muchos de los modelos más avanzados, pero no dispone de una ley federal integral que establezca obligaciones comunes para todos sus desarrolladores.
La orden ejecutiva emitida en junio de 2026 encargó al Gobierno crear pruebas clasificadas para identificar capacidades cibernéticas avanzadas y diseñar un mecanismo mediante el cual las empresas puedan facilitar acceso a ciertos modelos antes de liberarlos. Pero la participación continúa siendo voluntaria. La propia orden aclara que no crea una licencia, autorización previa o permiso obligatorio para desarrollar y publicar modelos de frontera.
Los estados han comenzado a ocupar parte de ese vacío. California ya exige a grandes desarrolladores publicar marcos de seguridad, informar determinados incidentes y proteger a trabajadores que denuncien riesgos. No es correcto, por tanto, afirmar que Estados Unidos carece por completo de regulación. Lo que no existe es un régimen federal coherente y obligatorio para toda la industria.
Mientras el Congreso discutía, las compañías construyeron sus propios sistemas.
Anthropic publicó una Política de Escalamiento Responsable. OpenAI desarrolló su Preparedness Framework y posteriormente un marco de gobernanza de frontera. Google DeepMind creó un Frontier Safety Framework. Microsoft y Meta elaboraron mecanismos semejantes.
Aunque varían en alcance y exigencia, comparten una estructura reconocible: identificar capacidades críticas, evaluar los modelos antes y después de aplicar salvaguardas, aumentar la seguridad cuando el riesgo crece, documentar las decisiones de despliegue y vigilar incidentes después del lanzamiento.
Estos marcos son técnicamente más específicos que buena parte de la regulación pública. Distinguen, por ejemplo, entre un modelo capaz de ofrecer información general sobre biología y otro que pueda proporcionar asistencia decisiva para desarrollar un agente peligroso. Evalúan si un sistema puede descubrir vulnerabilidades informáticas, ejecutar tareas de forma autónoma o contribuir a la investigación que producirá la siguiente generación de modelos.
Ese trabajo debe tomarse en serio. Sería un error descartarlo como una operación de relaciones públicas. Los gobiernos todavía necesitan las evaluaciones, los especialistas y la experiencia acumulada dentro de esos laboratorios.
Pero también sería un error confundir sofisticación técnica con rendición de cuentas.
Las empresas estadounidenses no han ignorado los riesgos: en algunos ámbitos los han pensado con más precisión que el propio Estado, al punto de pedir ellas mismas evaluaciones externas antes de liberar sus modelos más avanzados. Pero esa evaluación sigue siendo voluntaria, y el conocimiento necesario para regular termina concentrado en organizaciones que no deberían tener la última palabra sobre sus propias obligaciones.
Las empresas definen muchos de sus propios umbrales. Deciden qué información puede publicarse sin revelar secretos comerciales o facilitar ataques. Sus políticas pueden modificarse y los evaluadores externos dependen, con frecuencia, del acceso que ellas concedan. Cuando una medida de seguridad entra en conflicto con la presión de lanzar un producto, la organización que debe aplicar el límite es también la que puede perder mercado si lo respeta.
Una línea roja voluntaria conserva valor. Pero no es lo mismo que una línea que quien se acerca a ella no puede mover por sí solo.
El International AI Safety Report 2026, elaborado por más de cien especialistas con respaldo de más de treinta países y organizaciones internacionales, reconoce avances: el número de compañías que publica marcos de seguridad de frontera se ha más que duplicado. También advierte que atacantes sofisticados todavía pueden eludir muchas defensas y que la eficacia real de varias salvaguardas continúa siendo incierta.
Europa intenta convertir prácticas en obligaciones
La Unión Europea ocupa una posición intermedia. No lidera la carrera de modelos con la misma fuerza que Estados Unidos o China, aunque cuenta con empresas relevantes como Mistral. Su influencia procede principalmente de su capacidad para convertir requisitos regulatorios en condiciones de acceso a un mercado amplio.
El AI Act exige a los proveedores de modelos de propósito general preparar documentación técnica, mantener una política de derechos de autor y publicar un resumen del contenido utilizado para entrenarlos. Los modelos considerados de riesgo sistémico enfrentan obligaciones adicionales: evaluar y mitigar riesgos, notificar incidentes graves y establecer protecciones de ciberseguridad.
Europa está haciendo algo especialmente importante: tomar prácticas que aparecieron primero en compromisos empresariales y convertirlas en deberes jurídicos. Su código de práctica ayuda a mostrar cómo cumplir, pero las obligaciones proceden de la ley.
El modelo europeo tampoco está libre de dificultades. Una norma puede exigir una evaluación sin garantizar que la prueba mida correctamente el peligro. Puede producir mucha documentación y poca seguridad. Y una regulación demasiado compleja puede favorecer a las compañías grandes, que tienen departamentos jurídicos capaces de cumplirla, frente a competidores pequeños y proyectos abiertos.
La existencia de una ley resuelve el problema de la obligatoriedad. No resuelve automáticamente el problema del conocimiento.
Dos sistemas, dos insuficiencias
La comparación permite formular la paradoja con mayor precisión.
China concentra autoridad regulatoria sin ofrecer suficiente transparencia pública sobre cómo se evalúan algunos riesgos de frontera. Estados Unidos concentra conocimiento técnico en empresas que no están sometidas a una autoridad federal equivalente. Europa intenta reunir obligación legal y evaluación técnica, pero todavía debe demostrar que puede hacerlo sin convertir el cumplimiento en una acumulación de formularios.
Por eso no basta con preguntar qué país regula más. Necesitamos preguntar:
- ¿Qué capacidades activan una evaluación adicional?
- ¿Quién la realiza, y puede repetirla alguien que no dependa de la empresa evaluada?
- ¿Esa evaluación es obligatoria, o depende de que la empresa decida solicitarla?
- ¿Qué resultados se hacen públicos?
- ¿Quién puede detener un despliegue, o exigir que una empresa incumplidora rinda cuentas?
- ¿Quién responde por los daños?
Estas preguntas no exigen comprender cada operación matemática que ocurre dentro de un modelo. Exigen comprender dónde se encuentra el poder.
Cuando pedir regulación también puede ser una estrategia
La polémica de estos días añade otra dificultad. Los principales empresarios de inteligencia artificial pueden pedir regulación porque conocen peligros que el resto de la sociedad todavía no alcanza a ver. También pueden preferir reglas que ellos están en condiciones de cumplir y que elevarían los costos para competidores más pequeños.
Ambas cosas pueden ser ciertas al mismo tiempo.
Una compañía puede advertir sinceramente sobre un riesgo y tratar de influir en la regulación para proteger su posición. Una petición de límites puede ser un acto de responsabilidad y una forma de captura regulatoria. No debemos escoger una sola explicación antes de examinar las reglas propuestas, a quién obligan y quién resulta beneficiado.
La disputa con China vuelve todavía más difícil esa evaluación. Dario Amodei, director ejecutivo de Anthropic, ha defendido una reducción del ritmo de desarrollo y, al mismo tiempo, restricciones para impedir que China acceda a los chips más avanzados. Pekín responde que no puede llamarse cooperación internacional a una estrategia que le pide contenerse mientras limita su acceso a la tecnología.
La seguridad de la inteligencia artificial y la competencia geopolítica ya están entrelazadas. Las advertencias sobre modelos peligrosos pueden servir para prevenir una catástrofe, pero también para justificar controles comerciales, cerrar modelos y preservar ventajas nacionales.
Esta tensión no invalida el peligro. Obliga a examinar con mayor cuidado a quienes lo describen.
Comprender lo suficiente para exigir respuestas
La mayoría de nosotros nunca sabrá construir un modelo de frontera. Tampoco sabemos fabricar el teléfono que llevamos en el bolsillo, diseñar el avión al que subimos ni formular el medicamento que consumimos. Aun así, esperamos que existan pruebas, estándares, responsabilidades y autoridades capaces de intervenir.
La diferencia es que esas industrias desarrollaron durante décadas instituciones de supervisión, procedimientos de certificación y formas de atribuir responsabilidad. En la inteligencia artificial, estamos tratando de construirlos mientras la tecnología cambia y se despliega.
No necesitamos convertir a cada usuario en experto. Sí necesitamos una ciudadanía capaz de formular preguntas mejores. No solo qué puede hacer un modelo, sino quién comprobó que puede hacerlo sin causar un daño desproporcionado. No solo si una empresa publicó un marco, sino qué ocurre cuando lo incumple. No solo si un Estado puede controlar la tecnología, sino quién controla al Estado cuando define lo que considera seguro.
China ha construido un Estado capaz de imponer reglas sobre la inteligencia artificial. Estados Unidos ha producido empresas capaces de describir con mayor detalle algunos de sus riesgos. Ninguno ha resuelto por completo cómo reunir capacidad técnica, independencia y legitimidad pública.
Ahí está la frontera que de verdad hay que vigilar: menos dentro de los modelos que en el espacio entre quienes los construyen, quienes intentan gobernarlos y los millones de personas que ya viven bajo decisiones tomadas por sistemas que apenas comienzan a comprender.
Fuentes incluidas en el artículo
- Associated Press, Tech CEOs ask for AI regulation. Trump and Congress are not rushing to act, 15 de septiembre de 2026.
- Associated Press, Beijing bristles at AI executive’s «fearmongering» about China, 14 de septiembre de 2026.
- Casa Blanca, Promoting Advanced Artificial Intelligence Innovation and Security, 2 de junio de 2026.
- Comisión Europea, General-purpose AI obligations under the AI Act.
- Administración del Ciberespacio de China, Interim Measures for the Management of Generative Artificial Intelligence Services, 2023.
- Administración del Ciberespacio de China, Measures for Labeling AI-Generated Synthetic Content, 2025.
- International AI Safety Report 2026, dirigido por Yoshua Bengio.
- Anthropic, Responsible Scaling Policy y Frontier Safety Roadmap.
- OpenAI, Frontier Governance Framework.
- Google DeepMind, Frontier Safety Framework.
- Microsoft, Frontier Governance Framework.
- Meta, Advanced AI Scaling Framework.
- DeepSeek, Transparency Center y documentación sobre mecanismos y entrenamiento.
- Alibaba Group, Model Governance.
Estado del trabajo: texto cerrado en las tres fases. Queda pendiente únicamente tu aprobación final antes de considerarlo definitivo.