¿Que es Deep Fake?

Ya sea en la tecnología o en la política, cada vez se habla más de las falsificaciones profundas o deep fakes. Por cierto, ¿qué es deep fake?

«Amazon, Microsoft y Facebook están librando una guerra contra las falsificaciones profundas o deep fakes«, se lee en el medio estadounidense ZDNet, o «California prohíbe las falsificaciones durante el tiempo de las elecciones», en The Verge. Al otro lado del Océano Atlántico, parece que las falsificaciones profundas están en el centro del debate público. En Francia, esto está lejos de ser el caso, al menos por el momento. Muchos de nuestros conciudadanos todavía no saben casi nada sobre este preocupante fenómeno. Hagamos un balance de la situación.

Deep Fakes: entre la falsificación y la usurpación

Los primeros videos de Deepfakes aparecieron en 2017. Es una técnica que permite reemplazar una cara por otra en un video. Un poco como el cambio de cara de Snapchat, pero de una manera mucho más convincente. Entonces es posible darle a la cara expresiones, movimientos de boca y todo lo demás que la hace humana. Como en el video de abajo donde la cara de Jack Nicholson, en la película Shining, ha sido reemplazada por la de Jim Carrey. El resultado es un farol, sólo podemos ver el fuego. Sin embargo, nunca audicionó para el papel.

Probablemente nos dirá que no hay nada nuevo en esto. Bueno, sí, hay algo nuevo. La gran novedad, desde 2017, es que no hay que ser un gran especialista en efectos especiales para lograr este resultado. Una inteligencia artificial se encarga de todo, gracias a un brillante y complejo mecanismo. Un primer algoritmo tratará de generar imitaciones que sean lo más creíbles posible, mientras que un segundo algoritmo tratará de detectar las falsificaciones lo más rápido posible. Así que las falsificaciones profundas serán generadas una y otra vez, perfeccionadas, refinadas, hasta que el segundo algoritmo ya no pueda detectarlas. El resultado final engañará al algoritmo como al ojo humano.

¿Qué tienen de malo las falsificaciones?

No pasó mucho tiempo antes de que nos enfrentáramos a los primeros problemas con las falsificaciones. Y como suele suceder con los seres humanos, todo termina siempre girando en torno a la pornografía. A partir de 2018, los videos pornográficos de falsificaciones profundas (deepfakes) con celebridades estuvieron disponibles en todas partes en Internet. Ariana Grande, Katy Perry, Taylor Swift, Emma Watson, Gal Gadot o Scarlett Johansson aparecen en estos videos, en los que, por supuesto, nunca han filmado.

Y es entonces cuando te das cuenta de que algo está mal. Con las falsificaciones, puedes poner en escena a cualquiera en cualquier situación. ¿Taylor Swift quería aparecer en un video pornográfico en Internet? Probablemente no. Y aún así este video está ahí contra su voluntad. Le guste o no, con las falsificaciones, la inteligencia artificial puede hacer que haga lo que quiera.

Cuando los tramposos se meten en política…

Pero no se detiene ahí. Las falsificaciones no se iban a limitar a la pornografía. Pronto, se dio un nuevo paso. Si puedes hacer que alguien haga algo, entonces puedes hacer que diga cualquier cosa, también. No hay escasez de eso y se está volviendo cada vez más preocupante. Las falsificaciones entran en la esfera política. La inteligencia artificial puede entonces transformar completamente el discurso de un político para hacer que diga cualquier cosa. Esto es lo que el director Jordan Peele demuestra al hacerse pasar por el ex presidente de los EE.UU. Barack Obama durante un video deepfake.

Durante un período electoral, cualquier candidato podría perder toda su credibilidad y su electorado debido a un video de deepfake. Podríamos ver a Donald Trump explicando que ha sido un agente secreto ruso desde el principio, a Hillary Clinton diciendo que no existe y que siempre ha sido Bill Clinton con una máscara o Angela Merkel anunciando que Alemania tiene la intención de abandonar la Unión Europea. Después de tales alegaciones, nadie querría votar por ellos, aunque nunca dijeran nada al respecto.

Y el problema es que no tenemos forma de luchar contra las falsificaciones en este momento. Engañan a los algoritmos tanto como al ojo humano. Pero tal vez no por mucho tiempo. La Universidad de Berkeley en los Estados Unidos está trabajando actualmente en una inteligencia artificial que podría detectar estos videos falsos con una tasa de éxito del 95%. Por lo tanto, mientras no haya una cura disponible, sólo queda una cosa por hacer: tomar con cuidado todo lo que se ve en Internet y considerar la posibilidad de que sea un deepfake.