Las aplicaciones Deepfake son capaces de falsificar contenidos multimedia con ayuda de la inteligencia artificial. Por ejemplo, pueden sustituir las voces y los rostros de fotos y vídeos existentes o incluso generar un rostro completamente nuevo. Las consecuencias de este método pueden ser fatales. Especialmente si el deepfake no pretende ser una broma, sino que se ha generado con fines de fraude o chantaje. En este artículo, aprenderás cómo se generan los deepfakes, qué riesgos y peligros albergan y cómo puedes protegerte para no ser víctima de un ataque deepfake.
Crear deepfakes no es un juego de niños, pero tampoco supone un reto excesivo para personas con conocimientos informáticos medios o buenos. Mientras tanto, existen en Internet numerosas herramientas para ordenadores y teléfonos móviles con las que puedes experimentar y crear tus propios deepfakes incluso siendo un profano.
La creación de deepfakes no es ilegal mientras no se violen los derechos generales de la persona, los derechos de autor o el derecho a la propia imagen (por ejemplo, en forma de calumnia, injuria o difamación). En caso contrario, puede haber riesgo de sanciones o incluso que los hechos den lugar a acciones civiles o penales.
Existen varios enfoques que puede adoptar para impedir que el deepfake siga propagándose. Entre ellas, invocar el GDPR o la protección del honor personal y profesional. Además, por supuesto, también puede presentar una demanda por acoso, difamación, infracción de derechos de autor o violación de la privacidad. Sin embargo, de esta forma no se puede evitar un posible daño a la reputación.
Índice de contenidos
1. ¿qué es un deepfake?
El término «deepfake» es una combinación de los términos «deep learning» (un método de aprendizaje automático) y «fake» y se refiere a la alteración y falsificación de contenidos mediáticos con ayuda de la inteligencia artificial. Para ello se utilizan redes neuronales artificiales, con cuya ayuda las falsificaciones pueden generarse incluso de forma en gran medida autónoma.
Esto significa que incluso los profanos sin conocimientos especializados son capaces de crear deepfakes de alta calidad. Gracias a la creciente potencia de cálculo y a las IA cada vez más potentes, los contenidos creados de este modo parecen extremadamente auténticos y a menudo es difícil o imposible reconocerlos como falsos.
2 ¿Qué tipos de deepfakes existen?
Uno de los tipos de deepfakes más conocidos es el llamado «face swapping», con el que se intercambian caras en secuencias de vídeo para hacer que las personas mostradas pronuncien textos ajenos o cambien sus movimientos. Del mismo modo, el«voiceswapping» es una forma de cambiar el contenido de audio de tal manera que se puedan poner textos arbitrarios o incluso voces en boca de desconocidos.
Otra forma de deepfakes de vídeo es el llamado «body puppetry«. En este caso, se transfieren movimientos individuales o secuencias completas de movimientos a otras personas. Dado que para ello la IA debe reconstruir automáticamente el fondo y entrenarse con el material de origen antes de cambiar el contenido, este tipo de deepfake sigue considerándose el más complicado. Otros métodos (por ejemplo, el intercambio de caras o de voces), en cambio, funcionan incluso en tiempo real.
¿Cómo se crea un deepfake?
Crear deepfakes no es un juego de niños, pero no supone demasiado reto para personas con conocimientos informáticos medios o buenos. Mientras tanto, en Internet se pueden descargar numerosas herramientas (los llamados creadores de deepfakes) para iOS, Android y Windows. Incluso los no profesionales pueden utilizarlas para experimentar y crear sus propios deepfakes. Una herramienta de este tipo es Puzzle Deepfake para Android, que puedes descargar gratuitamente de Google Play Store. Basta con cargar una foto en la aplicación, aplicar un filtro y -voilá- la app crea automáticamente un deepfake rudimentario en cuestión de segundos.
Es bueno saberlo: En 2019 causó furor la app Deepfake Zao, con la que se podían crear montajes de vídeo engañosamente reales a partir de una sola foto en un iPhone. Sin embargo, la herramienta solo estaba disponible en China y desde entonces ha dejado de fabricarse.
Los profesionales trabajan de otra manera y crean deepfakes con las llamadas GAN (Generative Adversarial Networks), en las que dos algoritmos de aprendizaje automático compiten entre sí. Mientras uno de ellos genera una imagen falsa, el otro intenta reconocerla. Si la falsificación es reconocida, la IA mejora el resultado para evitar que vuelva a ser identificada.
Al mismotiempo, el segundo algoritmo también introduce mejoras para poder reconocer también falsificaciones mejores. El proceso se repite hasta que la IA reconocedora supera a la productora y el contenido parece engañosamente auténtico. Sin embargo, para utilizar una herramienta GAN no sólo se necesitan medios económicos, sino también un ordenador muy potente.
4 ¿Cuáles son los riesgos y peligros de Deepfake?
Los deepfakes entrañan muchos riesgos muy graves y suponen un peligro para la sociedad, los empleados sociales e incluso la economía. Por ejemplo, los deepfakes pueden aprovecharse de forma excelente para cometer grandes fraudes en forma de campaña de phishing. Después de todo, ¿quién sospecharía si oyera la voz de su superior en un mensaje de voz ordenando una transferencia bancaria?
Las posibles consecuencias de un deepfake son fatales. En el pasado, las mujeres han sido chantajeadas a menudo con grabaciones pornográficas falsificadas.
Sin embargo, un peligro aún mayor que el de los contenidos falsos en los medios de comunicación es el que supone el uso de deepfakes en campañas de dif amación. No es de extrañar, por tanto, que la mayoría de los deepfakes se encuentren en el ámbito de la pornografía, además del fraude de guante blanco. Por ejemplo, el software DeepNude para iOS y Android, lanzado en 2019, era capaz de generar una imagen de desnudo a partir de una foto de una persona vestida, pero solo en cuerpos de mujer. Aunque la herramienta ya no está disponible legalmente, sin duda sigue circulando en algún lugar como descarga en la World Wide Web.
Las posibles consecuencias de un deepfake de este tipo son fatales. No sólo las famosas tienen que temer que algún loco ponga su cara en el cuerpo de una actriz porno y luego distribuya el vídeo por medio mundo a través de WhatsApp, Telegram, TikTok y similares. De repente, en el chat de la clase circulan fotos falsas de chicas desnudas de sexto curso o el impopular jefe de departamento es denigrado como tramposo en un correo circular anónimo. En el pasado, las mujeres han sido chantajeadas a menudo con falsas grabaciones pornográficas .
¿Cómo puedo reconocer los deepfakes y protegerme de ellos?
La rapidez con la que se reconocen los medios falsos depende de la calidad del resultado. Los contrastes borrosos, las emociones faciales poco naturales, los movimientos inadecuados de los labios o una iluminación incorrecta pueden ser indicios de un deepfake. Por otro lado, un rostro demasiado perfecto que ya no parece natural también puede ser un indicio de deepfake.
Además, comprueba siempre si el contenido lógico tiene sentido. Si tu actor favorito aparece de repente en un vídeo con una actitud completamente diferente o si determinadas afirmaciones dejan de tener sentido en el contexto general, también puede ser señal de un deepfake.
Es bueno saberlo: Los datos utilizados para generar deepfakes suelen proceder de las redes sociales. Por lo tanto, piensa siempre detenidamente qué información quieres compartir y en qué canales.
Sin embargo, para desenmascarar un deepfake profesional, normalmente necesitas una herramienta especial con la que puedas comprobar la autenticidad del contenido de los medios. Una herramienta gratuita de este tipo es el DeepFake-o-meter, desarrollado por informáticos de la Universidad de Buffalo.
Al final, sin embargo, los medios más importantes en la lucha contra los deepfakes son siempre el sentido común y la capacidad de comprender determinados hechos en un contexto global (más amplio) . Las exigencias sorprendentes o repentinas (por ejemplo, la orden de traslado de tu superior) deberían hacerte aguzar el oído. Además, este tipo de fraude puede contrarrestarse de forma sencilla y fácil con la ayuda de la autenticación multifactor.
Porque entonces, para acceder a tus dispositivos, los estafadores no sólo tendrían que imitar tu voz y tu cara, sino también ser capaces de reconocer códigos de letras o números, por ejemplo. En la empresa también deben establecerse directrices claras sobre qué personas y grupos pueden acceder a determinada información, cuándo y en qué circunstancias.