“Luís, necesito que vengas a la oficina ahora mismo, mira Twitter, tenemos un problema muy grande”. Este es el mensaje que le envió el CEO de una empresa de refrescos a su director de marketing tras descubrir que circulaba por la red un vídeo, en que supuestamente aparecía él hablando mal del producto y criticando a los consumidores. Un ciberdelincuente había elaborado un vídeo falso utilizando su cara y su voz para dañar la reputación de la compañía. Es un caso que dio a conocer hace unos meses el Instituto Nacional de Ciberseguridad de España, INCIBE para alertar de las consecuencias de lo que se conoce como deepfake.
No solo se conocen casos de uso ilícito o estafas a través de imágenes hiperrealistas, sino también de deepvoice, voces clonadas a partir de fragmentos de voz de una persona. El uso de este tipo de tecnologías, junto a la desinformación de las fake news, centran el nuevo episodio del podcast de Cuatroochenta Cuidado con las macros ocultas titulado “¿Hasta dónde te puedes fiar de lo que ves?”.
Uso de deepfakes para robar dinero o datos valiosos
¿Sabes que es el #vishing?
Te llaman por teléfono📞 y el operador se identifica como un trabajador de una empresa conocida para solicitarnos datos personales
Si no quieres ser víctima de esta #estafa👉 https://t.co/npvEVtp8fg pic.twitter.com/Egc7f6Fnu4
— Policía Nacional (@policia) January 11, 2022
Ganarse la confianza de una persona y conseguir, bajo el engaño y la manipulación, que haga algo o facilite datos e información es la base de la ingeniería social. Los delincuentes están aprovechando la sofisticación y acceso a las tecnologías de generación de imágenes y audio para aplicarlas en casos de phishing o smishing. Para el ingeniero informático e investigador de AI y Visual Computer en Vicomtech, Unai Elordi, detrás de todo esto “falta mucha legislación y privacidad de datos”.
«Los que quieren hacer mucho daño van a tener los recursos para darle realismo a una imagen. (…) Cuanto más realismo le pongas es más fácil que caiga en la trampa»
Otros usos y aplicaciones de los vídeos hiperrealistas
Los deepfakes y deepvoices son un riesgo para empresas y organizaciones, pero también son una oportunidad. Depende de la “intencionalidad” que se dé a esa tecnología, apunta Elordi, quien destaca que permite generar imágenes sintéticas de personas que no existen y, por tanto, que no se exponen. Y eso, en investigaciones, por ejemplo, sobre detección de enfermedades es una clara ventaja.
El cine y la publicidad también han utilizado esta tecnología en los últimos años. Star Wars resucitó a Carrie Fisher como princesa Leia o Fast and Furious pudo completar la séptima entrega de la saga recreando imágenes del fallecido Paul Walker. Y uno de los anuncios más sonados fue el que Lola Flores protagonizó para Cruzcampo, 25 años después de su muerte.
¿Cómo detectar un deepfake?
«Nos ponemos a hablar de tecnología y olvidamos que la realidad del problema es el chat de Whatsapp de nuestra tía. La desinformación no es solo tecnología. (…) Los seres humanos tenemos una serie de sesgos que nos hacen compartir más la desinformación, verla con mejores ojos y creerla más»
Aunque para Clara Jiménez, CEO y cofundadora de Maldita.es, medio de comunicación español dedicado al fact checking, los deepfakes no suponen por ahora un problema, sí “existe un riesgo brutal”. En el episodio del podcast explica que “va a ser mucho más grave si empiezan a aparecer deepfakes de nuestros políticos y la gente no está preparada para ser consciente de que pueden estar intentado engañarles”.
Y es que recibimos una avalancha diaria de mensajes y llamadas de atención y, en ocasiones, es difícil discernir un contenido real de uno falso. Pasa con las llamadas fake news, que además, corren como la pólvora. Un estudio de la revista Science confirma, que la desinformación corre a una velocidad siete veces superior a las noticias reales.
Los deepfakes son una oportunidad tecnológica para generar imágenes y voces sintéticas de personas que no existen sin que tengan que exponerse, pero abren nuevas amenazas y riesgos de ciberseguridad para las empresas.
