Elon Musk insta a los gigantes de la IA a probar sus sistemas de seguridad
Elon Musk, destacó que "en lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación".
Elon Musk aboga para que los principales desarrolladores de inteligencia artificial (IA) sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos, en medio de los llamados de los líderes del sector advierten sobre los peligros de esta tecnología.
El director ejecutivo de Tesla y SpaceX hizo eco de las crecientes preocupaciones sobre la seguridad de la IA durante su intervención en la cumbre All-In Summit, que se lleva a cabo en Los Ángeles, y donde participan las cabezas de los más importantes desarrolladores de esta tecnología.
"Creo que lo más sensato sería, cuanto antes —si no de inmediato—, que los principales competidores en IA probaran los modelos de los demás; de este modo, los sistemas de pruebas de seguridad de cada empresa evaluarían los modelos de todas las demás", explicó Musk en su participación remota la noche del lunes.
En concreto, el magnate afirmó que tanto su empresa, como OpenAI, Anthropic, Google, Meta y "tres o cuatro de las principales compañías chinas" deberían permitir que sus rivales sometieran sus modelos a pruebas de evaluación de seguridad, según información citada por CNBC.
"En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación", indicó el dueño de xAI.
La propuesta de Musk se da en medio de llamados de los máximos responsables de laboratorios punteros como Dario Amodei (Anthropic), Sam Altman (OpenAI), y Demis Hassabis (Google DeepMind) por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología.
La oleada de llamados se dio tras los comentarios del investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, que dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.