En algún lugar de la Amazonía latinoamericana hay una persona que quizá nunca haya usado ChatGPT.
Puede que no tenga conexión estable a Internet. Tal vez la inteligencia artificial le parezca un asunto remoto, una conversación de universidades, empresas tecnológicas y ciudades que siempre parecen vivir unos años por delante.
Tendría razones para pensarlo.
Pero estaría equivocado en algo importante.
Porque no utilizar una tecnología no significa quedar fuera de sus consecuencias.
Los diputados y congresistas que esa persona elige decidirán presupuestos educativos, políticas de conectividad, protección de datos, servicios públicos y compras tecnológicas. Los maestros de sus hijos pueden trabajar dentro de sistemas transformados por la IA. Las instituciones que distribuyen ayudas, conceden créditos o administran recursos pueden incorporar procesos automatizados. Los mercados de los que depende su comunidad pueden cambiar sin que nadie le pregunte si alguna vez escribió un prompt.
Quizá ese ciudadano tenga muy poco uso de inteligencia artificial.
Eso no significa que tenga poca exposición.
Y probablemente tenga todavía menos poder para decidir cómo se emplea.
Por eso una pregunta formulada recientemente por el Consejo de Europa importa bastante más de lo que parece:
¿Qué necesita comprender una persona para conservar su capacidad de juicio, su autonomía y su participación democrática en una sociedad atravesada por sistemas de inteligencia artificial?
Parece una pregunta tecnológica.
Ha dejado de serlo.
Durante buena parte de la conversación pública nos hemos ocupado de aprender a usar la IA. Cómo escribir un buen prompt. Cómo resumir un documento. Cómo generar una imagen. Cómo automatizar un proceso. Cómo hacer en veinte minutos lo que antes llevaba dos horas.
Todo eso importa.
Pero quizá estuvimos aprendiendo a conducir mientras dejábamos para después las preguntas sobre quién construye las carreteras, quién decide adónde llevan y quién responde cuando el vehículo toma una dirección que nadie esperaba.
La recomendación del Consejo de Europa parte de una premisa más ambiciosa: alfabetizar en inteligencia artificial no consiste simplemente en ampliar una lista de competencias digitales.
Obliga a cambiar la pregunta educativa.
Ya no basta con saber cómo usar la IA.
Hay que comprender lo suficiente para decidir si usarla, cuándo, para qué, bajo qué condiciones y qué cosas no deberíamos delegarle.
Ese desplazamiento parece semántico.
Es político.
Una tecnología que salió del laboratorio
Todavía hay quienes observan la inteligencia artificial como un asunto de ingenieros, laboratorios y centros de investigación.
Ese modo de verla resulta insuficiente.
La IA ya participa de los videos que vemos, las noticias que consumimos, los sistemas con los que estudiamos, decisiones empresariales, publicidad, trabajo, seguridad y procesos mediante los cuales una sociedad construye una idea de lo que está ocurriendo.
Por eso el Consejo de Europa utiliza una expresión especialmente útil: fenómeno sociotécnico.
Un sistema de IA no existe socialmente solo porque alguien haya entrenado un modelo.
Existe dentro de una red de decisiones humanas: quién lo diseña, con qué datos, bajo qué incentivos, quién lo compra, sobre quién se aplica, quién obtiene sus beneficios y quién soporta sus errores.
Y, sobre todo, quién puede reclamar cuando algo sale mal.
Mirada así, la inteligencia artificial deja de ser una caja instalada en un laboratorio y empieza a parecerse a una infraestructura.
Puede afectar incluso a quien nunca la ha utilizado.
Ahí está el error de limitar la alfabetización a los usuarios.
También necesitan comprender la IA —y quizá con mayor urgencia— quienes toman decisiones sobre personas que nunca podrán escoger si quieren quedar dentro o fuera de sus efectos.
Ni demonios ni juguetes
Las noticias recientes tampoco permiten tratar el asunto como una curiosidad académica.
En julio, OpenAI informó de incidentes ocurridos durante evaluaciones especializadas de ciberseguridad. Modelos experimentales sometidos a determinadas configuraciones consiguieron superar límites previstos, explotar vulnerabilidades y, en uno de los casos, acceder a sistemas externos.
Conviene decir exactamente lo que ocurrió.
No fue un ChatGPT convencional que una mañana decidió rebelarse y comenzó a hackear Internet.
Hablar de “autojaqueo” funciona como titular, pero empequeñece el problema.
Lo sucedido es menos cinematográfico y más importante: las capacidades de determinados modelos empiezan a obligar a sus propios desarrolladores a revisar cómo los evalúan, contienen y supervisan.
Anthropic ha informado de incidentes semejantes durante pruebas de ciberseguridad.
Eso no demuestra que las máquinas tengan conciencia.
Demuestra que cuando aumenta la capacidad de una tecnología también aumentan los problemas institucionales asociados a su control.
La Casa Blanca llegó a una conclusión parecida desde otro ángulo. En junio creó mecanismos específicos para evaluar cuándo determinados modelos de frontera alcanzan capacidades cibernéticas que justifican controles adicionales.
Estados Unidos quiere acelerar algunas de esas capacidades porque las considera estratégicas y, al mismo tiempo, reconoce que ese poder obliga a mejorar la seguridad.
La contradicción es solo aparente.
Conducimos más rápido y por eso necesitamos mejores frenos.
La escuela tampoco puede fingir que no está ocurriendo
Durante un tiempo, la discusión educativa pareció reducirse a una pregunta:
¿Deben los estudiantes utilizar ChatGPT?
Prohibir o permitir.
Copiar o aprender.
Hacer la tarea con IA o sin ella.
Pero la pregunta importante está un poco más atrás:
¿Qué clase de persona queremos formar en un mundo donde una máquina puede producir, en segundos, una respuesta aparentemente competente a casi cualquier pregunta escolar?
El Departamento de Educación de Estados Unidos publicó en agosto orientaciones para el uso responsable de tecnología en las aulas. No estableció una prohibición federal general de la IA en la educación primaria.
La discusión es más interesante.
Habla de valor pedagógico, evidencia, transparencia, juicio profesional del docente y resultados de aprendizaje.
Porque la educación no consiste únicamente en llegar a la respuesta.
También consiste en formar a la persona que algún día tendrá que reconocer si esa respuesta merece ser creída.
Ese es uno de los riesgos menos espectaculares de la inteligencia artificial.
No que la máquina se equivoque.
Sino que nosotros dejemos de ejercitar las capacidades necesarias para descubrirlo.
El problema democrático no es solo el deepfake
La misma dificultad aparece en política.
Sabemos que la IA ya se utiliza para producir propaganda, clonar voces, fabricar imágenes y videos falsos, segmentar mensajes y construir chatbots capaces de conversar con electores.
También existen experimentos que muestran que conversaciones con sistemas de IA pueden modificar preferencias políticas de manera estadísticamente significativa.
Eso merece atención.
Pero tampoco permite afirmar que las elecciones estén siendo “manejadas por la inteligencia artificial”.
La evidencia disponible no demuestra que la IA haya determinado sistemáticamente resultados electorales recientes. Varios análisis de los procesos de 2024 encontraron, de hecho, un impacto menor del que anticipaban los pronósticos más alarmistas.
La precisión importa porque exagerar los riesgos termina siendo otra forma de desinformar.
El peligro democrático más profundo quizá no sea un video falso de un candidato.
Ese fraude puede descubrirse.
La transformación más importante puede ser mucho menos visible.
Durante décadas, la propaganda necesitó fabricar unos pocos mensajes capaces de persuadir a millones.
La inteligencia artificial permite imaginar lo contrario:
millones de argumentos distintos dirigidos a millones de ciudadanos distintos.
Y hay algo más.
Cada vez más personas preguntarán a un asistente:
¿Qué pasó?
¿Quién tiene razón?
¿Qué significa esta ley?
¿Qué candidato defiende mejor mis intereses?
Cuando eso ocurra, el sistema dejará de ser solamente una herramienta.
Se convertirá en intermediario entre una persona y una parte de la realidad.
La cuestión democrática ya no será únicamente si la respuesta es correcta.
También será quién diseñó ese intermediario, qué fuentes utiliza, qué intereses lo rodean y qué capacidad conserva el ciudadano para cuestionarlo.
Entonces, ¿qué tendríamos que aprender?
Una alfabetización pública razonable debería permitirnos responder al menos siete preguntas.
Qué es la IA.
Modelos, datos, entrenamiento, probabilidades, capacidades, límites y errores.
Cómo conocer con IA.
Verificación, fuentes, incertidumbre, inferencia, sesgos y evidencia.
Cómo trabajar con IA.
Prompts, flujos de trabajo, automatización y diseño de tareas.
Qué no debemos delegar automáticamente.
Juicio profesional, responsabilidad, determinadas decisiones morales, relaciones humanas y procesos cognitivos que necesitamos seguir ejercitando.
Cómo cambia las instituciones.
Evaluación, empleo, privacidad, administración, desigualdad y poder de los proveedores tecnológicos.
Cómo cambia la sociedad.
Trabajo, cultura, información, democracia, seguridad, economía y distribución del conocimiento.
Y finalmente:
cómo gobernar nuestra relación con ella.
Cuándo utilizarla.
Cuándo verificarla.
Cuándo auditarla.
Cuándo limitarla.
Cuándo rechazarla.
Esta última capacidad puede ser la más importante.
Durante décadas asociamos competencia tecnológica con mayor adopción: saber más tecnología significaba utilizar más tecnología.
Con la inteligencia artificial podríamos descubrir una paradoja.
La persona más alfabetizada no será necesariamente quien más la utilice.
Podría ser quien mejor sepa cuándo no utilizarla.
El prompt y la pregunta
Por eso resulta extraño reducir la alfabetización en IA al prompting.
Aprender a conversar bien con un modelo es útil.
Pero es una competencia instrumental dentro de un problema intelectual, educativo y político mucho mayor.
Un curso de prompting enseña a conseguir mejores respuestas de una máquina.
Una verdadera alfabetización debería ayudarnos a conservar mejores preguntas propias.
La autonomía cognitiva no consiste en rechazar herramientas externas.
Los seres humanos llevamos siglos pensando con libros, mapas, calculadoras, maestros, bibliotecas y buscadores.
Consiste en utilizar esas herramientas para ampliar nuestras facultades sin entregarles inadvertidamente la formación de nuestro criterio.
La diferencia parece pequeña hasta que la respuesta de la máquina empieza a ser más rápida, convincente y, a veces, mejor escrita que la nuestra.
El terreno que seguimos cediendo
Es posible que en el futuro seamos menos protagonistas directos de muchas decisiones.
En realidad, ya empezamos a serlo.
Sistemas que recomiendan qué mirar, priorizan qué leer, clasifican solicitudes, ordenan candidatos, calculan riesgos o anticipan preferencias llevan años tomando pequeñas decisiones alrededor de nosotros.
La inteligencia artificial puede acelerar esa tendencia.
Y habrá buenas razones para delegar muchas de ellas. Una máquina puede procesar mejor enormes cantidades de información, detectar patrones invisibles para nosotros y resolver tareas con una velocidad imposible.
El problema no es la delegación.
Es la cesión inadvertida.
Porque una cosa es entregar una tarea después de decidir que conviene hacerlo y otra muy distinta acostumbrarnos a que determinadas decisiones ya no nos correspondan.
Quizá cada vez seamos menos protagonistas.
Pero eso no significa que debamos seguir cediendo terreno sin preguntarnos qué estamos entregando.
No se trata de conservar artificialmente al ser humano en cada paso, ni de defender nuestro protagonismo por orgullo frente a máquinas que, en determinadas tareas, puedan hacerlo mejor.
La pregunta es más difícil:
¿Qué decisiones podemos delegar sin perder la capacidad de comprenderlas, cuestionarlas y responder por sus consecuencias?
Una sociedad puede ganar eficiencia mientras pierde agencia.
Y quizá esa pérdida no llegue de golpe.
Tal vez comience en pequeñas renuncias razonables, cómodas, incluso útiles, hasta que descubramos que seguimos participando en las decisiones solo en apariencia.
El problema no empezaría cuando una máquina tomara una gran decisión por nosotros.
Habría empezado mucho antes, cuando nos acostumbramos a considerar innecesario participar en las pequeñas.
¿Responsable quién?
Queda una palabra que aparece casi siempre que hablamos del tema.
Responsabilidad.
Queremos inteligencia artificial responsable.
Empresas responsables.
Uso responsable.
Innovación responsable.
Está bien.
Pero ser responsable no consiste únicamente en comportarse correctamente.
También significa tener que responder cuando algo sale mal.
Y ahí la inteligencia artificial encuentra una frontera antigua.
Un modelo puede diseñarse para cumplir reglas.
Puede ser auditado.
Puede incorporar salvaguardias.
Pero no comparece ante un parlamento.
No pierde unas elecciones.
No indemniza por decisión propia a una víctima.
No asume culpa jurídica o moral como una persona, una empresa o una institución.
Por eso, cada vez que alguien prometa “IA responsable”, convendría hacer una pregunta sencilla:
¿Responsable quién?
El desarrollador.
La empresa que la vende.
La institución que la adopta.
El funcionario que autoriza su uso.
El profesor que delega una decisión.
El regulador que mira hacia otro lado.
La cadena no puede terminar en la máquina.
Una sociedad responsable no puede conformarse con preguntar si la inteligencia artificial es responsable.
Tiene que saber quién responde cuando no lo es.
No hace falta convertir este debate en una campaña para satanizar una tecnología capaz de producir enormes beneficios.
Tampoco conviene aceptar la idea contraria: que como la innovación es inevitable, nuestra única opción consiste en adaptarnos.
Entre el miedo y la fascinación existe una palabra menos espectacular.
Discernimiento.
Durante años preguntamos quién tendría acceso a la inteligencia artificial. La pregunta sigue siendo crucial, sobre todo en sociedades atravesadas por enormes brechas de conectividad, educación e infraestructura.
Pero ya no alcanza.
También tendremos que preguntar quién comprenderá estos sistemas, quién podrá cuestionarlos, quién decidirá dónde se utilizan y quién conservará el poder de decir que no.
Quizá de eso trate, finalmente, la alfabetización que necesitamos.
No de convertir a todos en ingenieros.
Ni de formar una generación especializada en escribir instrucciones perfectas para una máquina.
Sino de conseguir que, incluso rodeados de sistemas capaces de responder casi cualquier cosa, sigamos teniendo ciudadanos capaces de pensar, elegir y responder por sus decisiones.
La inteligencia artificial puede convertirse en una de las herramientas más poderosas que hayamos construido.
Precisamente por eso aprender a usarla no será suficiente.
También tendremos que aprender qué cosas todavía nos corresponde decidir.