Tech507
Facebook veta los deepfakes en lucha contra la manipulación
La plataforma indicó el lunes por la noche que cambiaría sus normas para vetar los videos editados o sintetizados de formas no evidentes para el espectador medio.
Facebook anunció la prohibición de videos falsos pero de aspecto realista, creados con inteligencia artificial y herramientas sofisticadas -una tecnología conocida como deepfake-, redoblando sus esfuerzos contra la manipulación en internet.
La plataforma indicó el lunes por la noche que cambiaría sus normas para vetar los videos editados o sintetizados de formas no evidentes para el espectador medio, y que podrían engañar a una persona haciéndole creer que la persona aparecida en el video dijo algo que en realidad nunca dijo.
Los videos deepfake combinan o sustituyen contenido para crear imágenes que pueden ser casi indistinguibles de las auténticas.
“Aunque estos videos siguen siendo poco comunes en internet, plantean un desafío significativo para nuestra industria y nuestra sociedad conforme aumenta su uso”, indicó en un post la vicepresidenta de gestión de política global de Facebook, Monika Bickert.
Sin embargo, señaló que las nuevas normas no afectarían a parodias o sátiras, ni a videos en los que solo se altere el orden de las palabras. Las excepciones reflejaban el desafío que afrontaban servicios de medios sociales de combatir la desinformación y las noticias falsas sin vulnerar la libertad de expresión y evitando las acusaciones de censura.
La compañía estadounidense estudiaba cómo gestionar el auge de los deepfakes tras ser criticada el año pasado por negarse a retirar un video manipulado de la presidenta de la Cámara de Representantes de Estados Unidos, Nancy Pelosi, que la mostraba arrastrando las palabras. El video se vio más de 3 millones de veces. Los expertos señalaron que el video, editado de forma tosca, no llegaba a la categoría de deepfake.
Después un dúo de artistas compartió un video falso en el que el director general de Facebook, Mark Zuckerberg, aparecía presumiendo sobre su dominación mundial. Facebook también permitió ese video, y señaló que ninguno de los dos incumplía sus normas.
El problema de los videos modificados ha cobrado una urgencia creciente mientras expertos y legisladores tratan de impedir que se empleen para interferir en las elecciones presidenciales de noviembre.
Facebook dijo que cualquier video que no cumpliera los requisitos para ser eliminado aún podría ser revisado por verificadores externos. Los que se consideren falsos serán identificados como tal para cualquier usuario que intente verlos o compartirlos, algo que Bickert describió como una estrategia mejor que simplemente borrarlos.
“Si simplemente eliminamos como falsos todos los videos manipulados identificados por los verificadores, los videos seguirían estando disponibles en internet o en el ecosistema de medios sociales”, dijo Bickert. “Al mantenerlos y etiquetarlos como falsos, proporcionamos a la gente información y contexto importantes”.