Esta semana, en vísperas de la Asamblea General de la ONU, António Guterres ha vuelto a pedir "coordinación global" sobre inteligencia artificial y ha advertido contra "una carrera hacia el abismo" en seguridad. Ivonne A-Baki, la candidata a sucederle, ha ido más allá y ha propuesto regular la IA "como las armas nucleares". El Papa León XIV ha añadido que no se puede delegar en algoritmos decisiones que exigen responsabilidad humana. Tres voces distintas, el mismo problema de fondo: ninguna ha dicho qué significa "coordinar" en la práctica.
Llevo siguiendo este ritual varios años y siempre termina igual. Alguien con autoridad moral real sube a un atril, compara la IA con las armas nucleares porque suena serio, y baja del atril sin haber propuesto un mecanismo concreto. Ni un tratado, ni un organismo de inspección, ni una cifra de qué se considera un umbral peligroso. La comparación con lo nuclear es puro efecto retórico: el régimen de no proliferación funciona porque hay un número reducido de estados, infraestructura física identificable (centrifugadoras, reactores, minas de uranio) y satélites que la vigilan desde el espacio. La IA la despliega cualquiera con una GPU decente y una API key, sin pedir permiso a nadie ni dejar rastro visible desde fuera.
Mientras tanto, la Unión Europea ha hecho el trabajo aburrido que nadie aplaude en una cumbre. El AI Act ya prohíbe sistemas concretos, exige documentación técnica y ha lanzado su primera investigación formal contra un proveedor de modelos de propósito general. No es perfecto, es lento y tiene lagunas, pero existe un calendario, un organismo con sanciones tasadas en millones de euros y una autoridad que puede abrir un expediente cuando alguien se salta la norma. Es infinitamente menos elegante que un discurso en Nueva York y hace más que cualquier discurso en Nueva York.
En mi trabajo llevo meses construyendo, a escala de una sola organización, el tipo de gobernanza que estas cumbres prometen a escala planetaria: quién puede desplegar qué modelo, qué registro queda de cada decisión automatizada, quién firma cuando algo sale mal. No es glamuroso, no sale en ninguna asamblea general y no lleva el nombre de nadie en un titular. Es la parte que de verdad reduce el riesgo, y ninguna cumbre la resuelve con una frase sobre el fin del mundo.
Seguiremos teniendo estos discursos cada septiembre, con el mismo vocabulario apocalíptico y la misma ausencia de mecanismo. La pregunta que de verdad importa no es si la IA acabará con todos nosotros. Es cuánta gente seguirá confundiendo la preocupación pública, muy real y muy fotogénica, con una política que de verdad obligue a alguien a hacer algo.
0 Comentarios