La lucha contra los deepfakes, cómo podemos combatirlos

En plena era digital, la preocupación por las noticias falsas ha ido ocupando cada vez más la atención de organismos públicos, medios de comunicación y personalidades de todo tipo. No por nada, las Fake News han tenido cierto peso en importantes procesos electorales como las elecciones presidenciales de Estados Unidos en 2016, el referéndum sobre la salida del Reino Unido de la Unión Europea o las generales de Brasil que dieron la victoria a Bolsonaro.

Sin necesidad de irnos tan lejos, en nuestro país Facebook tuvo que cerrar recientemente tres grandes redes de extrema derecha que, a través de 30 páginas, grupos y cuentas duplicadas acumulaban más de un millón y medio de seguidores y más de 7 millones de interacciones. Estos grupos se dedicaban a difundir bulos e imágenes falsas.

Pero ahora nos enfrentamos a otro tipo de amenaza digital que está generando nuevos quebraderos de cabeza. Estamos hablando de los llamados Deepfake, un término que surge de la combinación de “Deep Learning” y “Fake”. Básicamente se trata de una forma de inteligencia artificial que permite a cualquier usuario editar videos y audios falsos de personas que parecen reales. Para ello, se recurre a las redes generativas antagónicas (RGAs), una especie de algoritmo que pueden crear nuevos tipos de datos a partir de otros conjuntos que ya existen.

En definitiva, los “deepfakes” son una forma más de manipulación digital, y una de las más susceptibles de utilizarse para “trolear” en el mejor de los casos. Pero, ¿cómo podemos detectarlos? y, sobre todo, ¿qué se está haciendo por parte de las instituciones y empresas privadas para prevenir sus desastrosas consecuencias? En este especial vamos a repasar los esfuerzos que se están llevando a cabo para detener esta nueva lacra digital.

¿Por qué son tan peligrosas las Deepfakes?

La tecnología “deepfake” nos permite sustituir fácilmente la cara de una persona por la de otra, como si fuera una especie de careta o máscara digital, para hacernos creer que ha hecho dicho ciertas cosas que en realidad nunca tuvieron lugar. Como podréis adivinar, estas técnicas, tienen una serie de implicaciones bastante significativas para determinar la legitimidad de la información que circula en internet.

Si bien muchas veces se utilizan para crear videos humorísticos, lo cierto es que las “deepfakes” escoden un oscuro potencial para destruir la imagen pública de una persona o para influenciar en la opinión pública mediante el uso de la desinformación. Desgraciadamente tenemos que adelantaros que este mal uso está más extendido de lo que nos gustaría, y con enorme éxito habría que añadir.

Un ejemplo claro lo tenemos en la app DeepNude, la cual permitía subir la imagen de una persona con ropa y crear una nueva de la misma persona desnuda. Afortunadamente, ya está cerrada, pero debemos hacer hincapié en la facilidad de uso de este tipo herramientas para las que no se requiere ningún conocimiento de edición ya que el propio algoritmo hacia todo el trabajo.

deepnude

En el caso de DeepNude, la plataforma ofrecía unos resultados increíblemente realistas y era totalmente accesible a través de su web para Windows y Linux. Y como era de esperar, los montajes con celebrities como Katy Perry o Gal Gadot no tardaron en aparecer en la red, hasta el punto que la presión de los abogados de estas actrices no cesó hasta lograr que importantes webs de contenido para adultos retirasen los vídeos.

Esto es solo la punta del iceberg de la capacidad de manipulación que pueden llegar a tener este tipo de aplicaciones. Imaginemos ahora las consecuencias de una campaña de este tipo dirigido contra una determinada figura política con el fin de manipular un proceso de elecciones en un país o una región. El mal no conoce límites.

deepfake

¿Cómo se combaten las Deepfakes?

Una de las primeras empresas en pronunciarse fue nada menos que Google, que anunció su firme voluntad de combatir las deepfakes y, como se suele decir en estos casos, fuego apaga fuego. El gigante tecnológico confirmo el lanzamiento de toda una base de datos de hasta 3.000 vídeos manipulados con inteligencia artificial (deepfakes) que han sido creados específicamente para ayudar a refinar las herramientas de detección de los investigadores.

Para ello, Google ha contratado a actores reales para grabar sus caras y que sean utilizadas como punto de referencia para determinar si un video ha sido alterado artificialmente. Mediante el uso de métodos de generación de deepfake disponibles para todo el mundo, se crean miles de deepfakes a partir de estas grabaciones.

Los videos resultantes, reales y falsos, se suben a la plataforma de desarrollo colaborativo GitHub para que los investigadores entiendan a fondo qué está produciendo el sistema. Esta base de datos, como os decimos, es totalmente accesible, aunque primero tendrán que darte permiso.

Por su parte, Facebook, también planea crear una base de datos similar para finales de este mismo año. Según su máximo responsable, Mark Zuckerberg, el principal problema radica en que la industria no cuenta con un sistema estandarizado para detectarlos. Es por ello que se ha unido con la Asociación de IA, Microsoft y académicos de Cornell Tech, MIT, Oxford, UC Berkeley, Universidad de Maryland, College Park, y la Universidad de Albany-SUNY para construir el Reto de la Detección de Deepfakes (DFDC por sus siglas en inglés).

Este macro proyecto incluirá una extensa base de datos y una clasificación pormenorizada, además de ayudas a la financiación y donaciones para estimular a cuantos más colaboradores se pueda. La idea, es crear una especie de comunidad que ayude a detectar y evitar los vídeos manipulados a través de una IA.

No quepa duda que la proliferación de los “deepfakes” se ha convertido en un tema muy serio, con severas consecuencias que no pueden ser pasadas por alto. Si bien las medidas planteadas por los principales agentes comprometidos con esta causa puedan parecer poco prácticas, o incluso contraproducentes, a la larga, puede ser la única manera de erradicar este delito. Aunque pueda parecer contradictorio, combatir las “deepfakes” con más “deepfakes” ayudará a las herramientas de detección a absorber más datos que las ayuden a localizar más fácilmente este tipo de montajes.

RECIBE NUESTRO NEWSLETTER
Suscríbete para recibir las últimas noticias de tecnología en tu buzón. Te mandaremos un único mail al día con el resumen de los titulares de las noticias, trucos, comparativas, reviews publicadas en nuestras webs.
Servicio ofrecido por Mailchimp