Desde un mostrador de aeropuerto hasta las horas decisivas de una elección, el verdadero riesgo no siempre es la ausencia de una solución, sino descubrirla después de que el daño ya ocurrió.
Hace unos días estaba en el aeropuerto de Lima con la intención de tomar un vuelo a Tacna. Sin embargo, una inversión en el orden de mis apellidos y de los apellidos de la intérprete que me acompañaba resultó demasiado para el sistema de gestión de LATAM.
Los nombres eran correctos. Los apellidos eran correctos. Los números de documento también. Pero el orden no coincidía con el esperado por el sistema.
Las personas que nos atendieron no parecían actuar con indiferencia. Probablemente estaban en condiciones de consultar con otras áreas, escalar el caso y encontrar una solución. El problema era el tiempo. Mientras realizaban las consultas necesarias, el proceso de embarque continuaba y el vuelo terminaría cerrándose.
La solución podía existir, pero llegaría demasiado tarde.
Esa experiencia aparentemente pequeña volvió a mi mente al acercarme a la política brasileña sobre el uso de inteligencia artificial durante la campaña electoral.
Tenemos una desmesurada tendencia a movernos entre extremos. Frente a la tecnología, pasamos con facilidad del entusiasmo absoluto al miedo apocalíptico. O creemos que resolverá todos nuestros problemas o imaginamos máquinas rebelándose contra los seres humanos.
Mientras discutimos esos extremos, prestamos poca atención a algo mucho más cercano: sistemas creados para ayudarnos que pueden producir consecuencias a una velocidad superior a nuestra capacidad para comprenderlas, detenerlas o corregirlas.
Brasil se ha convertido en un país pionero en la región al establecer reglas específicas para el uso de inteligencia artificial durante sus elecciones generales de 2026. La primera vuelta se celebrará el 4 de octubre y más de 155 millones de personas están habilitadas para votar.
Las normas del Tribunal Superior Electoral exigen identificar los contenidos creados o alterados mediante inteligencia artificial, prohíben los deepfakes destinados a favorecer o perjudicar candidaturas y obligan a retirar contenidos ilícitos. También impiden la publicación de nuevo material sintético desde 72 horas antes de la votación hasta 24 horas después. Incluso prohíben que los sistemas de inteligencia artificial recomienden candidatos o indiquen por quién votar. Tribunal Superior Electoral de Brasil
Las medidas parecen razonables. El problema no está solamente en su intención o en su formulación. Está en la velocidad con la que deberán aplicarse.
Una campaña electoral es especialmente sensible a la información y a su veracidad. No faltan ejemplos de noticias falsas, rumores y operaciones de desinformación que han alterado la percepción de los votantes. Pero la realidad actual añade una diferencia fundamental: la velocidad, la escala y la verosimilitud.
Con inteligencia artificial, un texto falso, una imagen convincente, una voz clonada o un video que represente algo que nunca ocurrió pueden producirse en segundos. También pueden distribuirse entre millones de personas antes de que una institución tenga tiempo de verificar qué sucedió.
La Justicia Electoral brasileña recibió 19 casos relacionados con IA durante los primeros once días de campaña. Al mismo tiempo, una encuesta encontró que casi 63% de los electores consultaría herramientas de inteligencia artificial para obtener información sobre los candidatos. Otro estudio comprobó que varios de los chatbots más utilizados recomendaban u ordenaban candidatos en la mayoría de sus respuestas, a pesar de que las reglas brasileñas lo prohíben. Reuters
Aquí aparece la conexión con lo ocurrido en el aeropuerto.
Las instituciones pueden detectar una falsificación, investigar su origen, ordenar su retiro y sancionar a los responsables. Las plataformas pueden bloquear una cuenta. Los medios pueden publicar una verificación. Los candidatos afectados pueden presentar pruebas.
La solución existe.
Pero ¿qué ocurre si llega después de las horas decisivas de una campaña electoral?
Una imagen falsa puede ser retirada y permanecer en la memoria de quien la vio. Una acusación puede ser desmentida y conservar su capacidad de producir sospecha. Una voz clonada puede ser identificada cuando ya fue escuchada por millones de personas. La corrección rara vez viaja con la misma velocidad o alcanza a la misma audiencia que la mentira original.
En una elección ajustada no hacen falta millones de conversiones para modificar un resultado. Puede bastar una pequeña alteración en la percepción de un grupo reducido de votantes. Cuando finalmente llegue la resolución judicial, el desmentido o la explicación técnica, las urnas pueden estar cerradas.
Esto no es una teoría conspirativa. Tampoco exige imaginar una organización secreta controlándolo todo. Es un problema más sencillo y, precisamente por eso, más preocupante: aquello que creamos para ayudarnos puede operar a una velocidad superior a nuestra capacidad para corregir sus consecuencias.
El mismo problema podría repetirse en una escala mucho mayor con la inteligencia artificial.
Tal vez comprendamos mejor sus efectos sobre la educación cuando ya haya cambiado la manera de aprender. Quizá reconozcamos su influencia sobre nuestras relaciones cuando ya nos hayamos acostumbrado a sustituir conversaciones humanas. Es posible que identifiquemos sus efectos sobre el trabajo, la información o la democracia cuando las decisiones importantes ya dependan de sistemas que pocas personas entienden y todavía menos pueden corregir.
La solución también podría existir. Pero podría llegar tarde.
Esto no significa que debamos prohibir la inteligencia artificial. Tampoco que debamos rechazar sus beneficios o impedir su desarrollo. La pregunta más útil no es cómo detenerla, sino cómo hacerla más segura antes de que sus errores se conviertan en consecuencias irreversibles.
Un sistema seguro no es necesariamente un sistema que nunca se equivoca. Es uno que puede ser cuestionado, corregido o detenido a tiempo.
Eso exige:
- personas capaces de contradecir al sistema;
- procedimientos rápidos de revisión;
- responsabilidad clara cuando algo falla;
- posibilidad de intervención humana;
- trazabilidad de las decisiones;
- instituciones que respondan a la velocidad del daño;
- ciudadanos preparados para verificar antes de creer o compartir.
La amenaza más inmediata de la inteligencia artificial no es una rebelión de las máquinas ni una ofensiva militar contra la humanidad. Puede presentarse mediante elementos aparentemente sutiles: una imagen que parece auténtica, una voz que reconocemos, una noticia plausible, una recomendación que aparenta neutralidad o una pantalla que afirma que dos personas con documentos correctos no son quienes dicen ser.
En el aeropuerto, el sistema no tenía toda la información necesaria para interpretar correctamente nuestro caso. Las personas podían buscar una solución, pero el vuelo no esperaría el resultado de sus consultas.
En una elección ocurre algo parecido. La democracia tampoco detiene su reloj mientras verificamos una falsificación.
Por eso las regulaciones brasileñas son necesarias, aunque no sean suficientes. No buscan prohibir la inteligencia artificial, sino reducir el riesgo de que su velocidad supere por completo nuestra capacidad de respuesta. Su verdadera eficacia no dependerá solamente de la calidad de las normas, sino de si las instituciones y las plataformas pueden actuar antes de que termine el vuelo, antes de que cierren las urnas y antes de que el error se convierta en una realidad difícil de revertir.
Quizá el verdadero peligro no sea que algún día las máquinas se rebelen contra nosotros.
Quizá sea que comprendamos demasiado tarde cuánto poder les habíamos entregado.