Bletchley Park: la seguridad de la IA no se decide solo en las cumbres

El 1 de noviembre, en Bletchley Park —la mansión donde Alan Turing y su equipo descifraron Enigma—, 28 países y la Unión Europea firmaron la Declaración de Bletchley. Entre ellos, España, Estados Unidos y China, juntos en la misma foto, algo que no ocurre todos los días.

La frase que más se ha citado es esta: existe un «potencial de daños graves, incluso catastróficos, deliberados o no intencionados» derivados de las capacidades más avanzadas de estos modelos. La declaración se centra en lo que llama frontier AI, los modelos más potentes, y menciona expresamente la ciberseguridad, la biotecnología y la desinformación.

Lo que la cumbre sí consigue

Sería fácil despachar Bletchley como una sesión de fotos. No lo creo. Que gobiernos con intereses tan distintos reconozcan por escrito que hay riesgos compartidos es un punto de partida necesario: sin un diagnóstico común no hay coordinación posible. Y la declaración se compromete a volver a reunirse en 2024, lo que convierte un gesto en un proceso.

También es significativo el tono. Hasta hace poco, hablar de riesgos de la IA en una reunión de empresa sonaba a ciencia ficción o a freno a la innovación. Hoy lo firman 28 países, entre ellos Estados Unidos y China. Eso legitima que cualquier dirección pregunte, sin complejos, «¿y qué puede salir mal?».

Lo que la cumbre no resuelve

El problema es que la conversación de Bletchley ocurre a una altura a la que la mayoría de organizaciones no llega. Los riesgos catastróficos de los modelos de frontera importan, pero no son los que tendrá delante una asesoría de Pamplona, una cadena de hoteles o una distribuidora de Vitoria cuando empiecen a usar IA generativa.

Sus riesgos son más prosaicos y, precisamente por eso, más probables:

• Que alguien pegue datos de clientes en una herramienta gratuita sin saber dónde acaban.
• Que una respuesta inventada por un modelo llegue a un cliente con el logo de la empresa.
• Que un sistema de cribado de currículos aprenda los sesgos del histórico de contrataciones.
• Que nadie sepa explicar, meses después, por qué se tomó una decisión apoyada en IA.

Ninguno de estos riesgos aparece en una declaración internacional, y ninguno necesita esperar a una ley para gestionarse.

Tres preguntas para traer la cumbre a casa

Mi propuesta es modesta: que cada organización haga su pequeña «declaración de Bletchley» interna. No hace falta un comité, basta con contestar por escrito tres preguntas.

1. ¿Qué usos de IA ya existen hoy en la empresa? Incluidos los que nadie ha autorizado. Casi siempre hay más de los que dirección cree.
2. ¿Qué datos no deben salir nunca de casa? Datos personales, contratos, información de clientes. Ponerlo por escrito evita el «no sabía que no se podía».
3. ¿Quién responde cuando la IA se equivoca? Si la respuesta es «nadie» o «la herramienta», hay que cambiarla antes del primer error, no después.

La seguridad de la IA se negocia en cumbres, sí. Pero se practica en las decisiones pequeñas de cada día. Y esas no las firma ningún primer ministro.