Tecnología de mapa facial permite hacer que otros digan lo que nunca han dicho

Oye, ¿mi congresista realmente dijo eso? ¿Es realmente el presidente Donald Trump en ese video, o estoy siendo engañado?

La nueva tecnología en Internet le permite a cualquiera hacer videos de personas reales que parecen decir cosas que nunca han dicho. Los republicanos y los demócratas predicen que esta forma de alta tecnología de poner palabras en boca de alguien se convertirá en la última arma en las guerras de desinformación contra los Estados Unidos y otras democracias occidentales.

No estamos hablando de videos de sincronización de labios. Esta tecnología utiliza mapas faciales e inteligencia artificial para producir videos que parecen tan genuinos que es difícil detectar los phonies. Los legisladores y los funcionarios de inteligencia se preocupan de que los videos falsos, llamados deepfakes, puedan usarse para amenazar la seguridad nacional o interferir en las elecciones.

Hasta ahora, eso no ha sucedido, pero los expertos dicen que no se trata de si, sino de cuándo.

"Espero que aquí en los Estados Unidos comencemos a ver este contenido en los próximos exámenes parciales y en las elecciones nacionales dentro de dos años", dijo Hany Farid, experto en análisis forense digital en Dartmouth College en Hanover, New Hampshire. "La tecnología, por supuesto, no conoce fronteras, por lo que espero que el impacto se propague por todo el mundo".

Cuando una persona promedio puede crear un video falso realista del presidente diciendo todo lo que quiera, Farid dijo: "hemos entrado en un mundo nuevo en el que será difícil saber cómo creer lo que vemos". Lo contrario es una preocupación , también. La gente puede descartar imágenes genuinas falsas, digamos de una verdadera atrocidad, para anotar puntos políticos.

Al darse cuenta de las implicaciones de la tecnología, la Agencia de Proyectos de Investigación Avanzada de Defensa de EE. UU. Ya lleva dos años en un programa de cuatro años para desarrollar tecnologías que puedan detectar imágenes y videos falsos. En este momento, se necesita un análisis exhaustivo para identificar videos falsos. No está claro si las nuevas formas de autenticar imágenes o detectar falsificaciones mantendrán el ritmo con la tecnología deepfake.

Deepfakes se llaman así porque utilizan el aprendizaje profundo, una forma de inteligencia artificial. Se crean al alimentar una computadora con un algoritmo o conjunto de instrucciones, muchas imágenes y audio de cierta persona.

El programa de computadora aprende cómo imitar las expresiones faciales, los gestos, la voz y las inflexiones de la persona. Si tiene suficiente video y audio de alguien, puede combinar un video falso de la persona con un audio falso y hacer que diga lo que quiera.

Hasta ahora, los deepfakes se han usado principalmente para difamar a celebridades o como bromas, pero es fácil prever que un estado nación los utilice para actividades nefastas contra los EE. UU., Dijo el senador Marco Rubio, republicano por Florida, uno de varios miembros del Senado. comité de inteligencia que están expresando su preocupación acerca de deepfakes.

Una agencia de inteligencia extranjera podría usar la tecnología para producir un video falso de un político estadounidense usando un epíteto racial o aceptando un soborno, dice Rubio. Podrían usar un video falso de un soldado estadounidense que masacra a civiles en el extranjero, o uno de un funcionario estadounidense que supuestamente admite un plan secreto para llevar a cabo una conspiración. Imagine un video falso de un líder estadounidense, o un funcionario de Corea del Norte o Irán, advirtiendo a los Estados Unidos de un desastre inminente.

"Es un arma que se puede usar -tiempo apropiadamente y colocada adecuadamente- de la misma forma en que se usan las noticias falsas, excepto en video, lo que podría crear un caos real e inestabilidad en la víspera de una elección o una decisión importante de cualquier tipo ", Dijo Rubio a The Associated Press.

La tecnología de Deepfake todavía tiene algunos enganches. Por ejemplo, el parpadeo de personas en videos falsos puede parecer antinatural. Pero la tecnología está mejorando.

"Dentro de uno o dos años, será muy difícil para una persona distinguir entre un video real y un video falso", dijo Andrew Grotto, miembro del equipo de seguridad internacional del Centro para la Seguridad y la Cooperación Internacional de la Universidad de Stanford en California.

"Esta tecnología, creo, será irresistible para que los estados naciones la usen en campañas de desinformación para manipular la opinión pública, engañar a las poblaciones y socavar la confianza en nuestras instituciones", dijo Grotto. Hizo un llamamiento a los líderes del gobierno y los políticos para que diga claramente que no tiene lugar en el debate político civilizado.

Los videos crudos se han utilizado con fines políticos malintencionados durante años, por lo que no hay motivos para creer que los de tecnología más avanzada, que son más realistas, no se convertirán en herramientas en futuras campañas de desinformación.

Rubio señaló que en 2009, la Embajada de los EE. UU. En Moscú se quejó ante el Ministerio de Asuntos Exteriores de Rusia por un video sexual falso que, según dijo, se hizo para dañar la reputación de un diplomático estadounidense. El video mostraba al diplomático casado, que era enlace con grupos religiosos y de derechos humanos rusos, haciendo llamadas telefónicas en una calle oscura. El video luego mostró al diplomático en su habitación de hotel, escenas que aparentemente fueron filmadas con una cámara oculta. Más tarde, el video pareció mostrar a un hombre y una mujer teniendo sexo en la misma habitación con las luces apagadas, aunque no estaba del todo claro que el hombre fuera el diplomático.

John Beyrle, que era el embajador de Estados Unidos en Moscú en ese momento, culpó al gobierno ruso por el video, que dijo que estaba claramente fabricado.

Michael McFaul, que fue embajador estadounidense en Rusia entre 2012 y 2014, dijo que Rusia ha participado en videos de desinformación contra varios actores políticos durante años y que él también había sido un objetivo. Él ha dicho que la propaganda del estado ruso insertó su rostro en fotografías y "empalmó mis discursos para hacerme decir cosas que nunca pronuncié e incluso me acusó de pedofilia".