By La tecnología deepfake, que no ha dejado de avanzar durante casi una década, tiene la capacidad de generar marionetas digitales parlantes.
Un presentador de noticias con el pelo oscuro perfectamente peinado y barba incipiente destacaba en un video lo que consideraba la vergonzosa falta de acción de Estados Unidos contra la violencia armada.
En otro video, una presentadora proclamaba el papel de China en las relaciones geopolíticas durante una cumbre internacional.
Pero algo no cuadraba. Sus voces eran acartonadas y no se sincronizaban con el movimiento de sus bocas. Sus rostros parecían pixelados, como en un videojuego, y sus cabellos pegados a la cabeza lucían poco naturales. Los subtítulos estaban llenos de errores gramaticales.
Los dos conductores, supuestamente presentadores de un medio de noticias llamado Wolf News, no son personas de verdad. Son avatares generados por computadora y creados por programas de inteligencia artificial (IA). Y a finales del año pasado, cuentas bot prochinas distribuyeron videos de ellos en Facebook y Twitter. Se trata del primer caso conocido de uso de tecnología de video deepfake, —que es el nombre que reciben los videomontajes ultrarrealistas hechos con software de IA— para producir personas ficticias como parte de una campaña de información alineada a un Estado.
“Es la primera vez que vemos esto suelto allá afuera”, dijo Jack Stubbs, vicepresidente de inteligencia de Graphika, una empresa de investigación que estudia la desinformación. Graphika descubrió la campaña a favor de China, que parecía destinada a promover los intereses del Partido Comunista Chino y socavar los de Estados Unidos para los espectadores de habla inglesa.
La tecnología deepfake, que no ha dejado de avanzar durante casi una década, tiene la capacidad de generar marionetas digitales parlantes. El software de IA se utiliza a veces para distorsionar a figuras públicas, como un video que circuló por las redes sociales el año pasado en el que se mostraba falsamente a Volodímir Zelenski, presidente de Ucrania, anunciando una rendición. Pero el software también puede crear personajes de la nada, lo que va más allá del software de edición tradicional y las costosas herramientas de efectos especiales usadas por Hollywood, y difumina la línea entre realidad y ficción hasta un grado extraordinario.
Los expertos en desinformación hace tiempo advierten que, con pocas leyes para gestionar la difusión de esta tecnología, los videos deepfake podrían mermar aún más la capacidad de la gente para discernir la realidad de las falsificaciones en línea, y podrían emplearse indebidamente para desencadenar disturbios o provocar un escándalo político. Estas predicciones ahora se han hecho realidad.
Si bien el uso de deepfakes en la campaña de desinformación favorable a China descubierta recientemente fue torpe, sí abre un nuevo capítulo en la guerra de la información. En las últimas semanas, se ha dado a conocer en internet otro video en el que se utilizaba una tecnología de inteligencia artificial similar y que mostraba a personas ficticias que se describían a sí mismas como estadounidenses, promoviendo el apoyo al gobierno de Burkina Faso, que es objeto de escrutinio por sus vínculos con Rusia.
El software de IA, que puede adquirirse fácilmente en internet, permite crear “videos en cuestión de minutos y las suscripciones cuestan a partir de unos pocos dólares al mes”, explica Stubbs. “Eso facilita la producción de contenidos a escala”.
Graphika relacionó a los dos falsos presentadores de Wolf News con la tecnología de Synthesia, una empresa de IA con sede en el piso superior de una tienda de ropa de la zona londinense de Oxford Circus.
La empresa emergente, de cinco años de antigüedad, crea software para generar avatares falsos ultrarrealistas. El cliente solo tiene que escribir un guion, que luego lee uno de los actores digitales producidos con las herramientas de Synthesia.
Según Synthesia, los avatares inteligencia artificial son “gemelos digitales” basados en la apariencia de actores contratados y pueden manipularse para que hablen en 120 idiomas y acentos. Ofrece más de 85 personajes para elegir con diferentes géneros, edades, etnias, tonos de voz y opciones de vestimenta.
Un personaje de IA, llamado George, tiene el aspecto de un experimentado ejecutivo de negocios con el pelo canoso y viste una chaqueta azul y camisa. Otra, Helia, lleva un hiyab. Carlo, otro avatar, usa un casco. Samuel viste una bata blanca como las que usan los médicos. (Los clientes también pueden utilizar Synthesia para crear sus propios avatares basados en sí mismos o en otras personas que les hayan dado permiso).
Los clientes emplean el software de la empresa sobre todo para videos de recursos humanos y formación, en los que basta con una calidad de producción poco pulida. El software, que cuesta desde 30 dólares al mes, produce en cuestión de minutos videos que, de otro modo, llevarían varios días y requerirían la contratación de un equipo de producción de video y actores humanos.
Todo el proceso es “tan fácil como escribir un correo electrónico”, afirma Synthesia en su sitio web.
Victor Riparbelli, cofundador y director ejecutivo de Synthesia, dijo que quienes emplearon su tecnología para generar los avatares descubiertos por Graphika habían violado sus condiciones de servicio. Esas condiciones establecen que la tecnología de la empresa no debe utilizarse para “contenido político, sexual, personal, delictivo o discriminatorio”. Riparbelli no quiso dar información sobre las personas que estaban detrás de los videos de Wolf News, pero dijo que sus cuentas habían sido suspendidas.
Riparbelli añadió que Synthesia cuenta con un equipo de cuatro personas dedicadas a evitar que su tecnología deepfake se use para crear contenidos ilícitos, pero dijo que la desinformación y otros materiales que no incluyan abiertamente discursos de odio, calumnias, palabras explícitas e imágenes podrían ser difíciles de detectar.
“Es muy difícil determinar que esto constituye desinformación”, dijo tras mostrarle uno de los videos de Wolf News. Dijo que asumía “toda la responsabilidad por cualquier cosa que ocurra en nuestra plataforma”, y pidió a los responsables políticos que establezcan reglas más claras sobre el uso de las herramientas de IA.
Según Riparbelli, identificar la desinformación será cada vez más difícil. Con el tiempo, añadió, la tecnología deepfake será lo suficientemente sofisticada como para “hacer una película de Hollywood en una computadora portátil sin necesidad de nada más”.
Puedes leer el artículo completo, publicado por The New York Times en español, en este enlace: https://www.nytimes.com/es/2023/02/09/espanol/inteligencia-artificial-deepfake.html