Líderes de 22 países exigen control humano sobre la inteligencia artificial
La misiva firmada por los líderes, cita episodios en los que sistemas de IA avanzados burlan las medidas de seguridad de otras compañías y entidades y obtienen acceso no autorizado a sistemas del mundo real.
Líderes de veintidós países e instituciones pidieron este lunes que la inteligencia artificial (IA) sea supervisada por humanos y que los Estados miembros de la ONU establezcan normas comunes para esta tecnología.
Entre los firmantes del documento, publicado en el marco de la Semana de Alto Nivel de la ONU, se encuentran el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney; y el presidente de Finlandia, Alexander Stubb.
También figuran en la carta representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos.
Aunque los firmantes reconocen que la IA tiene el potencial "de mejorar nuestras vidas, impulsar el avance científico y fortalecer nuestras economías", subrayan que su rápido desarrollo "plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente".
La misiva cita episodios en los que sistemas de IA avanzados burlan las medidas de seguridad de otras compañías y entidades y obtienen acceso no autorizado a sistemas del mundo real.
"La IA debe permanecer bajo la dirección, la supervisión y el control humano, y debe desarrollarse y utilizarse en conformidad con el derecho internacional", apuntan los suscritos.
Por ello, piden a las empresas del sector que desarrollen protocolos de seguridad transparentes, con pruebas obligatorias previas a la implantación de los modelos de IA y una evaluación independiente.
Además, los firmantes instan a los gobiernos y a las organizaciones regionales a desarrollar y coordinar normas comunes, así como a reforzar su transparencia y garantizar que todos los países tengan acceso a capacidad científica, conocimientos especializados y evaluaciones fiables.
También animan a los Estados miembros de la ONU a aprovechar los mecanismos internacionales existentes y plantear la creación de una institución internacional que establezca normas, facilite la verificación y convoque a los países "cuando se superen los umbrales de capacidad".
La misiva llega en medio de advertencias por parte de desarrolladores e investigadores sobre los riesgos de la IA.
Figuras del sector como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) también han manifestado su preocupación por el avance de esta tecnología, en una coincidencia poco habitual en el sector para exigir más regulaciones.