¿La IA es como un cachorro de tigre que cuando crezca acabará devorándonos?
El debate se había iniciado en la mesa "¿Pueden las máquinas entender el mundo?", dijo el Nobel de Física y considerado "padrino" de la inteligencia artificial.
¿Se parece la IA a tener un cachorro de tigre en casa que cuando crezca acabará devorándonos? Y si la inteligencia artificial acaba siendo mucho más inteligente que el ser humano... ¿puede ser la solución para compartir el planeta con ella, no convertirla en una obediente asistente, sino en algo parecido a una madre programada para cuidar de un bebé indefenso?
Esa es la propuesta que el Nobel de Física y considerado "padrino" de la inteligencia artificial (IA), Geoffrey Hinton, lanzó este martes en la segunda jornada del festival científico Starmus, en Tenerife (archipiélago español de las Canarias), un día después de advertir de que las máquinas podrían llegar a comprender cosas inaccesibles para nuestro cerebro, igual que “las ratas nunca comprenderán los números primos”.
Antes de desarrollar su tesis, Hinton recibió por sorpresa la Medalla Stephen Hawking a la Comunicación Científica de Starmus por sus contribuciones a la ciencia computacional, de manos del astrofísico y guitarrista de Queen Brian May y del fundador del festival Garik Israelian.
Tras ello, volvió a disertar sobre el problema que le preocupa desde que en 2023 abandonara Google y se dedicara a advertir sobre los problemas que traería la denominada Superinteligencia.
Para Hinton, es innegociable que la inteligencia artificial posee ventajas que la humana no puede igualar y considera mucho más que posible que en la próxima década aparezcan sistemas capaces de realizar prácticamente cualquier tarea intelectual mucho mejor que los humanos.
Riesgo de pérdida de control Por ello, hizo una advertencia: todavía no sabemos cómo compartir el planeta con inteligencias superiores sin correr el riesgo de perder el control sobre ellas, y ejemplificó, de nuevo, con animales.
"Nosotros nos creemos más inteligentes que los pollos y, por tanto, no les hacemos merecedores de derechos", dijo antes de proceder a un pequeño silencio.
En su disertación, el nobel alertó de que cada vez será más difícil saber qué hacen internamente estos sistemas, especialmente si avanzan hacia lenguajes más sofisticados, eficientes, opacos e ininteligibles para los humanos.
"No creo que nos quede demasiado tiempo para intervenir mientras los entendemos", señaló.
A ello suma lo que denominó irónicamente el “efecto Volkswagen”, en relación a cómo esta empresa trampeó la década pasada sus pruebas respecto a las emisiones contaminantes, es decir, qué ocurriría si los sistemas de IA detectan que están siendo evaluados y modifican su comportamiento para superar la prueba, lo que complicaría comprobar si realmente actúan como se espera.
Deshacerse de la bestia no es una opción Hinton volvió al ejemplo del tigre cachorro y afirmó que deshacerse de la bestia no es una opción porque la IA, dijo, ofrece demasiados beneficios, de modo que lo inteligente sería transitar hacia el ejemplo de la madre y el bebé.
"Una madre tiene mucha más capacidad e inteligencia que su hijo, pero el llanto del bebé puede determinar su conducta porque su instinto la empuja a atenderlo", reflexionó.
Y a continuación deslizó esta pregunta: ¿Estamos a tiempo de dotar a una futura superinteligencia de una disposición igualmente profunda hacia el bienestar humano para garantizar nuestra supervivencia?
Eliminar impulsos de la IA Incluso si esa inteligencia pudiera modificar su propio código, razonó, debería diseñarse de modo que no quisiera eliminar ese impulso, de la misma manera que una madre podría desear dormir cuando llora su hijo, pero no querría desprenderse de unos instintos cuya desaparición sabe que perjudicaría al bebé.
“Tenemos que pensar en ellas como nuestras madres, no como nuestros ridículos asistentes”, resumió Hinton, para quien las grandes tecnológicas se concentran demasiado en ganar la carrera por construir sistemas cada vez más inteligentes y no suficientemente en crear entidades con las que resulte seguro compartir el mundo.
El debate se había iniciado en la mesa "¿Pueden las máquinas entender el mundo?", en la que Hinton compartió escenario con Bernhard Schölkopf, director del departamento de Inferencia Empírica del Instituto Max Planck de Sistemas Inteligentes, y Philip Torr, profesor de Ingeniería de la Universidad de Oxford especializado en aprendizaje computacional.
En la mesa Hinton fue aún más lejos al cuestionar que la inteligencia deba determinar quién merece más derechos, precisamente porque los humanos dejarán de ocupar necesariamente la cima de esa jerarquía, y puede que pronto.