Desde hace algunos años se ha desarrollado la tecnología deepfake que, a través del aprendizaje automático, permite la creación de material manipulado (videos, fotografías...) para lograr un realismo nunca visto. El origen de esta tecnología se remonta al desarrollo de las Redes Neuronales Generativas Adversarias (GAN, por sus siglas en inglés), las cuales permiten crear contenido multimedia falso de alta calidad con una precisión impresionante. ¿Qué representan los deepfakes y qué impacto tienen en la sociedad?

¿Qué son y cómo funcionan los deepfakes?

La tecnología deepfake se basa en la utilización de algoritmos de aprendizaje automático y redes neuronales profundas para crear vídeos o imágenes falsas que parecen ser auténticos. Para hacerlo, se necesita entrenar una red neuronal con grandes cantidades de datos, en este caso, imágenes o vídeos de la persona a la que se quiere imitar.

La red aprende a imitar la voz, los gestos y los movimientos de la persona original, y puede crear una representación falsa muy realista. Para hacer un deepfake, se utiliza un software de edición de vídeo que permite cambiar la cara de la persona original por la de alguien más o crear una versión falsa de ella haciendo o diciendo cosas que nunca hizo o dijo.

Deepfakes en la industria del entretenimiento

Por un lado, en el mundo del cine, la televisión y el entretenimiento en general, la deepfake tech ha cobrado gran relevancia en el tiempo reciente, y se ha convertido en una herramienta que puede ser usada para mejorar o alterar la apariencia de los personajes en las películas y programas de televisión.

Un ejemplo de esto lo vemos en la película The Irishman (2019) de Martin Scorsese, donde se usaron técnicas de rejuvenecimiento facial para que actores como Robert De Niro, Joe Pesci y Al Pacino parecieran más jóvenes en los flashbacks, logrando un resultado impresionante.

📉

También se usó esta tecnología para recrear a Luke Skywalker y a la Princesa Leia en Star Wars: The Rise of Skywalker (2019).

Proceso de deepfaking. — Imagen de **Jordan Williams**/**SCREEN RANT**

Sin embargo, el uso de esta tecnología en la industria del entretenimiento no está exento de controversias. Uno de los casos más polémicos fue el de Bruce Willis, quien llegó a un acuerdo con la empresa Deepcake para crear su “gemelo digital” mediante el deepfake y así seguir participando en películas y anuncios, incluso después de su retiro. Además, han surgido casos como el de Paul Walker en Rápidos y Furiosos 7 (2015) y el de Harold Ramis en Ghostbusters: Afterlife (2021), en los que se utilizaron técnicas de reconstrucción facial para recrearlos post mortem.

El Tom Cruise de TikTok: deepfakes en la web e identidades falsas

Sin duda alguna, la tecnología deepfake plantea problemas éticos y legales, ya que puede ser utilizada para difundir información falsa o para suplantar identidades.

Recientemente, deepfakes del actor Tom Cruise aparecieron en TikTok. Este contenido, que muestra a un actor parecido aTom Cruise hablando y haciendo bromas, en realidad fue creado por un usuario de esa red social utilizando tecnología de Inteligencia Artificial para imitar la apariencia y la voz del actor.

Imagen de **India McTaggart**/**The Telegraph**

De esa manera, el deepfake también ha sido usado en Internet y las redes sociales, lo cual ha generado preocupaciones sobre la privacidad y seguridad en línea. La posibilidad de que alguien pueda emplear esta tecnología para usurpar la identidad de otra persona, generar contenido falso con fines malintencionados o difamar a alguien, es una amenaza real que se debe tener en cuenta.

Ejemplos de esto no solo es el falso imitador del protagonista de Top Gun, sino cuando esta tecnología fue usada para producir un video falso y sexualizado de Emma Watson sin su consentimiento, haciéndose viral en 2021.

La Inteligencia Artificial para detectar deepfakes

A medida que la tecnología del deepfake se vuelve más sofisticada y accesible, ha surgido la necesidad de desarrollar herramientas para detectar su uso en línea y minimizar su impacto en la sociedad. En los últimos años, se han creado varias herramientas que utilizan la Inteligencia Artificial para detectarlos.

Una de estas herramientas es Deeptrace, que es capaz de detectar deepfakes mediante el análisis de pistas visuales, como parpadeos anormales o movimientos faciales poco naturales. Otra herramienta es Fawkes, que utiliza la Inteligencia Artificial para agregar pequeñas perturbaciones a las imágenes antes de que sean cargadas en línea, lo que hace que sea más difícil para los algoritmos de deepfake manipular la imagen.

Además, Facebook ha desarrollado su propia herramienta de detección. La herramienta usa IA para comparar la voz y los movimientos faciales de una persona con su perfil en la plataforma, y puede detectar si hay alguna inconsistencia.

Si bien estas herramientas son prometedoras, aún enfrentan desafíos significativos en términos de precisión y eficacia. Según un estudio reciente realizado por la Universidad de California en Berkeley, las herramientas de detección de deepfakes tienen una tasa de éxito promedio de alrededor del 65%. Esto significa que aún hay un margen significativo de error y que se necesita investigación adicional para mejorar su efectividad.

Los deepfakes y el futuro

El deepfake es una tecnología fascinante que ha revolucionado la forma en que se crean y se consumen contenidos en el cine, la televisión y el internet. Sin embargo, su uso también conlleva muchos riesgos y preocupaciones sobre la privacidad y la seguridad en línea, especialmente en lo que respecta a la usurpación de identidades.

Pese a los riesgos, es importante reconocer que la tecnología deepfake también tiene un gran potencial para el bien en diversos sectores, desde la medicina hasta la educación y más allá.

La capacidad de modificar digitalmente imágenes y videos de una manera convincente puede tener aplicaciones beneficiosas, como la formación médica y la prevención de enfermedades, la creación de experiencias educativas más inmersivas y realistas, la animación de personajes virtuales y más.

Es crucial que se siga explorando y debatiendo el uso ético y responsable del deepfake, y se trabaje para minimizar los riesgos y maximizar los beneficios de esta tecnología en constante evolución. Con una mayor conciencia y comprensión de los riesgos y beneficios de este tipo de herramientas, se puede aprovechar al máximo su potencial y se use para el bien común.

📲 ¡Sigue nuestro canal de Telegram para más información de tecnología!