Anthropic propone destinar parte de sus acciones al beneficio público. La iniciativa merece atención. A mi juicio, también merece que preguntemos cómo se comporta la empresa antes de que haga falta financiar las consecuencias.
Si, como padre, atiborro a mis hijos de dulces, descuido sus horarios de alimentación y de sueño, y les permito transitar, desde pequeños, por ambientes peligrosos, contratar un buen seguro médico para su vida adulta podría parecer una muestra de previsión. Habría pensado en su futuro. Incluso habría reservado dinero para cuando llegaran los problemas.
Mis hijos, sin embargo, tendrían motivos para agradecerme que empezara por revisar cómo los cuido hoy.
Esa es un poco la sensación que me despierta el anuncio del Anthropic Public Benefit Fund, y lo digo como lectura personal: Anthropic no lo describe como un seguro. Celebro que una compañía de inteligencia artificial piense en compartir recursos con la sociedad. Pero me cuesta evaluar su generosidad sin detenerme antes en su conducta. La responsabilidad cotidiana debería ser el punto de partida para examinar cualquier promesa de beneficio público.
El 18 de octubre, Anthropic anunció que, sujeto a la aprobación de los accionistas, comprometería inicialmente el 5 % de sus acciones al fondo. Por cada aumento del 50 % en la valoración sobre una base aún no publicada, el directorio podría añadir, a su discreción, otro 2 %. Anuncio del fondo.
La dimensión potencial impresiona. En mayo, la compañía anunció una valoración de 965.000 millones de dólares, y aplicar el 5 % a esa cifra arroja 48.250 millones de dólares. Es una referencia aritmética sobre esa valoración, no dinero depositado en una cuenta ni una estimación de cuánto podría gastarse hoy. Ronda de financiación de mayo.
Conviene hacer la precisión porque las cifras grandes tienen una capacidad extraordinaria para ocupar toda la conversación. Después de tantos ceros, preguntar por los detalles puede parecer una falta de gratitud.
Mi reserva empieza precisamente ahí: ¿qué estamos llamando beneficio público?
Anthropic menciona investigación en seguridad, investigación biomédica y descuentos para instituciones entre las actividades que realiza dentro de la empresa, y reconoce que tienen valor social y comercial. Para el fondo contempla posibilidades como donaciones a organizaciones o transferencias a determinadas poblaciones; también promete ampliar la información sobre su estructura y gobierno. Explicación de Anthropic.
Que una actividad beneficie a la sociedad y a la empresa puede ser una coincidencia productiva. Investigar cómo hacer más seguros sus sistemas podría mejorar sus productos y proteger a quienes los utilizan. La cuestión es comprobar qué consigue, a quién beneficia y qué riesgos permanecen. La etiqueta «beneficio público» todavía deja mucho trabajo por hacer.
Para evaluarlo, distinguiría tres responsabilidades: prevenir daños, responder por los que ocurran y compartir los beneficios. Las tres importan, pero cumplen funciones diferentes. Ampliar el acceso a una herramienta puede abrir oportunidades, y financiar una ayuda puede aliviar una dificultad, pero ninguna de esas acciones demuestra por sí misma que el producto se desarrolló y desplegó con el cuidado necesario.
Tampoco una donación se convierte automáticamente en reparación. Reparar exige identificar qué ocurrió, quién resultó afectado y qué responsabilidad corresponde. De otro modo, alguien podría recibir una ayuda mientras quienes soportaron el daño siguen esperando una respuesta.
Por eso, antes de dejarme deslumbrar por el tamaño potencial del fondo, me interesaría conocer mejor las decisiones que podrían hacer menos necesario recurrir a él. Como parte de ese público al que se quiere beneficiar, agradecería saber:
¿Publica evaluaciones que permitan conocer también sus fallos y limitaciones?
¿Los evaluadores externos pueden investigar y divulgar conclusiones desfavorables?
¿Explica qué decisiones cambia a partir de la evidencia?
¿Los afectados tienen vías para impugnar decisiones y obtener respuestas?
¿Qué está dispuesta a limitar cuando hacerlo tiene un coste comercial?
Estas preguntas deben reconocer lo que ya existe. Anthropic publica una política de seguridad y describe mecanismos de evaluación interna y externa. Sería injusto escribir como si su preocupación por los riesgos hubiera comenzado con este fondo. Política de Escalamiento Responsable y centro de transparencia.
Hay, además, un avance concreto que merece atención. El 15 de octubre anunció que había comenzado a dar a un equipo de METR, una organización que evalúa modelos de IA, acceso interno comparable al de sus propios equipos de evaluación de riesgos. Según las condiciones publicadas, METR puede divulgar sus análisis sin que Anthropic vete la publicación. La empresa conserva, sin embargo, la facultad de exigir que se omita información incluida en categorías predefinidas, y decide qué encaja en ellas. METR se reserva la posibilidad de hacer ciertas declaraciones sobre el acceso y la información recibidos. Actualización sobre evaluadores independientes.
Ahí hay algo más útil para construir confianza que una declaración general de buenas intenciones: un mecanismo cuyas facultades y límites podemos examinar. Corresponderá observar qué logra esclarecer y cómo se resuelven los desacuerdos sobre lo que puede hacerse público.
La transparencia adquiere valor público cuando permite comprobar, cuestionar y corregir. Un informe que documenta una limitación puede ser valioso, y lo será todavía más si permite comprender qué cambió después de conocerla. La prueba más exigente aparece cuando corregir implica retrasar un lanzamiento, restringir una capacidad o renunciar a un ingreso.
La propia Anthropic reconoció, al explicar su Long-Term Benefit Trust, que su condición de sociedad de beneficio público no hace al directorio directamente responsable ante todos los afectados. Presentó ese mecanismo independiente como un intento de abordar esa distancia. Su eficacia también necesita evaluación. Explicación del Trust.
Todo esto permite recibir el fondo con interés sin concederle una absolución anticipada. El anuncio, por sí solo, tampoco demuestra que haya sido creado para encubrir problemas. Para sostener esa acusación necesitaríamos evidencia que aquí no tenemos. Sí podemos cuidar que la atención dedicada a la promesa filantrópica deje espacio para examinar las prácticas de la empresa.
Habrá riesgos difíciles de anticipar y daños que ninguna prevención consiga evitar por completo. Reservar recursos para responder a ellos puede ser sensato, y también lo es preguntarse qué se hace hoy para reducirlos. En la analogía familiar, contratar el seguro y cuidar mejor a los hijos caben perfectamente en el mismo presupuesto de responsabilidad.
Bienvenidos, entonces, los fondos para el futuro. Agradecería también que las decisiones del presente ayudaran a evitar problemas que mañana requieran nuevos fondos.
Y, ya que preocupa tanto el porvenir de nuestra especie, convendría dejar responsabilidades que podamos exigir y controles que funcionen. Quizás en el futuro no tengamos la suerte de contar con hombres tan buenos como los de hoy.