¡Conoce las +6.500 opiniones de alumnos de LISA Institute!

Banner promo verano15


Deepfakes: Qué es, tipos, riesgos y amenazas

¿Sabes lo qué son los Deepfakes y cómo pueden afectarte? ¿Sabrías detectar un Deepfake y diferenciarlo de un vídeo real? ¿Te gustaría saber cómo se elabora un Deepfake y para qué se utiliza? ¿Crees que los Deepfakes suponen un riesgo o una amenaza para los ciudadanos, las empresas y las instituciones?

Los Deepfakes o "falsedades profundas" son archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales. Los Deepfakes utilizan el aprendizaje de la inteligencia artificial, por lo que estos archivos consiguen engañarnos fácilmente. Los Deepfakes se utilizan para inducir a error a las personas receptoras, por lo que suponen una gran amenaza para la sociedad actual, pudiendo facilitar la desinformación y que la ciudadanía pase a desconfiar de cualquier fuente de información.

A continuación, te explicamos todo lo que necesitas saber sobre los Deepfakes y te damos algunos consejos para aprender a detectarlos:

  • ¿Qué son los Deepfakes?
  • Tipos de Deepfakes y definición
  • ¿Cómo se crea y para qué se utiliza un Deepfake?
  • ¿Cómo detectar un Deepfake? Lista de 8 consejos prácticos
  • Deepfakes: riesgos y amenazas para ciudadanos, empresas e instituciones

 

Deepfakes Qué es, tipos, riesgos y amenazas - LISA Institute

¿Qué son los Deepfakes?

Los Deepfakes o "falsedades profundas" son archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales. 

Aunque los Deepfakes existen desde finales de 1990, cobraron interés en 2017, cuando un usuario de Reddit publicó material pornográfico falso con los rostros de varias actrices famosas.

El término “Deepfakes” combina la palabra “fake (falso, ya que este tipo de archivos siempre son falsos, aunque se haga todo lo posible porque parezcan reales) y la palabra “deep”, proveniente de “deep learning” (aprendizaje profundo, que es un tipo de aprendizaje automático de la inteligencia artificial).

La capacidad de parecer tan reales viene dada por la capacidad de modelado que tienen los programas informáticos dedicados a realizar los Deepfakes, que tratan de asemejarse lo más posible al funcionamiento de las redes neuronales y del cerebro humano, facilitando que nuestros sesgos cognitivos y esquemas mentales nos traicionen. [Para ganar en objetividad y conocer tus sesgos cognitivos y esquemas mentales te recomendamos este curso]

Los Deepfakes utilizan el aprendizaje automático de la inteligencia artificial. Esta tecnología se basa en sofisticados algoritmos que son capaces de analizar si un archivo es real o si está alterado y, de esta forma, la inteligencia artificial puede ir mejorando cada vez más en la labor de falsificar de manera más fidedigna. Los Deepfakes pueden ser generados directamente por softwares u ordenadores especializados en este aprendizaje automático, sin necesidad de intervención humana.

Los Deepfakes se utilizan para inducir a error a las personas receptoras de los archivos, ya sea haciendo que un político diga algo en un vídeo que realmente nunca dijo para afectarle en una campaña política cerca de unas elecciones, o incluyendo la imagen de un famoso (o de cualquier persona) en un material pornográfico con el objetivo de perjudicarle o chantajearle. [Si quieres conocer todos los tipos de ciberacoso que existen y cómo prevenirlos haz clic aquí] 

Los materiales Deepfakes pueden modificar los rasgos del rostro de una persona (o su voz) y hacerla pasar por otra, generando otro archivo muy similar al verdadero. Por ello, algunos expertos consideran que los Deepfakes son una evolución de las fake news intencionada y que busca, claramente, la manipulación de las masas gracias a la difusión de estos archivos en Internet y en las redes sociales. [Si quieres saber qué son las Fake News o noticias falsas aquí te ofrecemos una Guía Práctica de técnicas y herramientas para detectarlas]

Por lo general, los archivos Deepfakes son de personajes públicos ya que cuanto más material se tenga de la persona real, mejor será la falsificación. Además, los Deepfakes cada vez suponen una mayor preocupación para las empresas e instituciones públicas por el enorme potencial que tienen para facilitar fake news, generar ataques de desinformación, de fraudes de todo tipo e, incluso, de manipulación de procesos electorales.

En enero de 2020, Facebook prohibió los Deepfakes (excepto los que son claramente parodias), es decir, todo aquel contenido que había sido alterado con intenciones maliciosas.

Para aprender a analizar la fiabilidad y credibilidad de los datos, información y archivos que recibimos a diario, te recomendamos formarte como Analista de Inteligencia.

 

Cursos de Ciberseguridad LISA Institue

Tipos de Deepfakes y definición

Existen, principalmente, dos tipos de Deepfakes de los que se ha generalizado cada vez más su uso:

  • Deepfaces

Los Deepfaces son Deepfakes que consisten en crear imágenes convincentes, aunque completamente falsas, desde cero. Por medio del aprendizaje automático de la inteligencia artificial, se manipulan y generan nuevas imágenes o vídeos a partir de otros y se reemplaza a la persona que aparece en ellos.

El objetivo es generar diferentes imágenes estáticas para crear una secuencia de vídeo, de modo que, como objetivo final, se obtenga un vídeo falso que parezca 100% real.

  • Deepvoices

Este tipo de Deepfakes suplantan la voz de una persona en un audio, haciendo que parezca que la persona realmente algo que no dijo, ya que falsifican su voz real.

En 2019 se produjo el primer delito cibernético por medio de la inteligencia artificial. Unos cibercriminales hicieron creer, utilizando Deepvoices, a un ejecutivo que estaba hablando con el CEO de su empresa, haciendo que les transfiriese más de 250.000 dólares.

Si quieres saber en qué consiste el fraude del CEO, te recomendamos este artículo.

 

Cursos de Ciberseguridad LISA Institue

¿Cómo se crea y para qué se utiliza un Deepfake?

Hacer un Deepfake es bastante sencillo, si bien, cuantos más conocimientos se tengan, más verídico parecerá el resultado final. Aún así, existen “Deepfakes programs” que realizan las imágenes manipuladas sin prácticamente ninguna intervención, gracias a un software especializado de inteligencia artificial y edición audiovisual.

Estos programas de Deepfakes realizan, con un algoritmo codificador de inteligencia artificial, miles de fotografías de las dos personas. El codificador analiza las similitudes entre las dos caras y las reduce a características compartidas. Viene a ser una especie de "analogía antropomórfica". 

Un segundo algoritmo de inteligencia artificial decodifica las imágenes para recuperar la información de los rasgos faciales en ambas caras. Como los dos rostros son diferentes, será necesario utilizar dos decodificadores diferentes, uno para cada imagen.

A continuación, se introducen las imágenes codificadas en el decodificador incorrecto, es decir, se intercambian las imágenes con el decodificador de la otra imagen. El decodificador, por tanto, debe reconstruir la imagen que se quiere crear con las expresiones faciales y movimientos de la otra imagen que este decodificador en concreto se ha encargado de recuperar. De esta forma, el vídeo resultante parece ser 100% real.

Otra forma de realizar Deepfakes es utilizando una red de confrontación generativa (Gan). Esta red confronta dos algoritmos de inteligencia artificial, uno generador (de la imagen falsa, por ejemplo) y el otro discriminador (que introduce la imagen falsa en la secuencia real). Es necesario repetir varias veces el proceso para que el rendimiento de los dos algoritmos mejore y dé como resultado imágenes completamente realistas.

La mayoría de los Deepfakes se originan mostrando al algoritmo muchas imágenes de una persona, que luego usa para generar nuevas imágenes faciales. El resultado es un archivo de vídeo, casi siempre, en el que aparece una persona que se parece y habla igual que la persona real sin serlo.

La firma de inteligencia artificial DeepTrace encontró 15.000 vídeos Deepfake en Internet en septiembre de 2019, el doble de los que había nueve meses antes. El 96% de estos vídeos eran material pornográfico manipulado.

Si bien los Deepfakes se empezaron utilizando en el material pornográfico, en la actualidad se siguen utilizando para esto, aunque también para:

  • Propagar noticias falsas.
  • Generar desinformación.
  • Desacreditar a alguien.
  • Cometer delitos relacionados con el honor, la imagen o el fraude.
  • Influir en las votaciones o toma de decisiones o pensamiento grupal.
  • Llevar a cabo venganzas.
  • Manipular los mercados financieros.
  • Desestabilizar las relaciones internacionales.

 

Para qué sirve un deepfake - LISA Institute

¿Cómo detectar un Deepfake? Lista de 8 consejos prácticos

Los Deepfakes son difíciles de detectar porque, como se ha dicho, son bastante realistas.

Sin embargo, hay algunos detalles que podemos tener en cuenta a la hora de detectar los Deepfakes:

  1. Encontrar fallos:  Algunos Deepfakes poseen fallos que los que han manipulado el vídeo no han podido corregir (por ejemplo, pequeñas diferencias en las expresiones faciales entre una cara y otra, el posicionamiento exacto de la cabeza o la iluminación). Para hacer que las imágenes parezcan lo más realistas posible, se llevan a cabo transformaciones que dejan evidentes fallos en las imágenes digitales (bordes borrosos, piel artificialmente lisa, movimientos entrecortados o antinaturales etc.). Aunque las personas no seamos capaces, muchas veces, de diferenciar entre una imagen real y un Deepfake, se puede enseñar a un algoritmo a detectar estos fallos.
  2. El parpadeo: Una forma sencilla de detectar si estamos ante un posible Deepfake es fijarse en cuántas veces parpadea la persona de la imagen. En un Deepfake, la persona parpadea menos veces de las que lo haría una persona en un vídeo real. Esto se debe a que el algoritmo no es capaz de parpadear sin evidenciar indicios de falsedad, por lo menos igual de rápido que un ser humano. Aún así, es cuestión de tiempo que esto lo mejoren.
  3. El cuello y la cara: Los Deepfakes son, principalmente, imágenes modificadas de rostros, no del cuerpo entero, ya que esto sería mucho más complicado. Es importante fijarse en el cuerpo de la persona (lo que se vea de él) a la que se le ha sustituido la cara. Si las características del cuerpo no coinciden con las de la persona real, podemos tener una pista más de que se trata de un archivo falso. De hecho, los Deep Fakes suelen ser primeros planos de la cara, ya que si fuesen de lejos necesitarían editar mucho más contenido del vídeo, aumentando las probabilidades de detectar los fallos.
  4. Una duración corta: Prácticamente todos los Deepfakes tienen una duración muy corta, de unos segundos, ya que el proceso de aprendizaje que debe seguir el algoritmo lleva mucho trabajo. Un vídeo demasiado corto y con un contenido inverosímil puede darnos también una pista de que estamos ante un Deepfake.
  5. El origen de la grabación: Indagar sobre quién compartió el archivo en primera estancia y en qué redes sociales, así como verificar el contexto en que se publicó, así como los detalles originales del mismo, pueden ayudarnos a detectar un Deepfake. [Para ello te recomendamos formarte tanto en Investigación Online como en Ciberinteligencia]
  6. El sonido: Es frecuente encontrar en los Deepfakes que el algoritmo que modifica el archivo de vídeo no ajusta correctamente el sonido a la imagen, por lo que no hay una sincronización entre el movimiento de los labios y el sonido.
  7. Los detalles: Es importante conocer los detalles de la grabación y, para esto, puede ayudar reproducir el vídeo a velocidad reducida. Si se trata de un Deepfake, podremos ver modificaciones repentinas en la imagen o cambios en el fondo del vídeo.
  8. El interior de la boca: Los algoritmos de inteligencia artificial son incapaces de copiar con precisión la lengua, los dientes y el interior de la boca al hablar. Si nos fijamos en todos estos detalles, un minúsculo fallo en el interior de la boca puede demostrarnos que se trata de un Deepfake.

 

Cómo detectar un deepfake - LISA Institute

 

El INCIBE, por su parte, propone estas medidas para detectar un Deepfake:

  1. Estar alerta ante la información que recibimos.
  2. Analizar la información con detalle.
  3. Contrastar la información buscando la fuente original y otras referencias adicionales. Conoce el reto de saber escoger y analizar las fuentes de información.
  4. Aplicar y desarrollar el sentido común.

    Deepfakes: riesgos o amenazas para ciudadanos, empresas e instituciones

    La Oficina de Seguridad del Internauta (OSI), plantea una serie de amenazas relacionadas con los Deepfakes, que se desarrollan a continuación.

    Los Deepfakes suponen una grave amenaza, ya que cualquier persona podría crear un archivo falso sobre cualquier otra persona, dando lugar a fraudes, venganzas, burlas, incluso pueden servir para desacreditar a alguien o como medio para hacer ciberacoso o intervenir en el acoso escolar.

    Actualmente, nos encontramos en una época en la que las fake news y la desinformación están a la orden del día, además de llegar cada vez a más personas a través de Internet.

    Por ello, se puede prever el riesgo que entrañan los Deepfakes a nivel personal, social, político y económico. Este peligro aumenta exponencialmente por las redes sociales, que permiten viralizar cualquier contenido en segundos, lo que puede causar estragos en la reputación de una persona.

    La inteligencia artificial avanza también muy rápidamente, por lo que se hace más y más difícil identificar y diferenciar entre el material real y los Deepfakes.

    Si las noticias falsas llevan años haciendo que la gente cambie de opinión mediante argumentos y teorías falsas, cuánto más puede lograr una imagen o un vídeo, que puede ser memorizada y retenida más fácilmente en nuestro cerebro y hacernos caer en múltiples sesgos cognitivos.

    Las grandes empresas, como Facebook, Twitter y Google, conscientes de la amenaza que suponen los Deepfakes, están tomando medidas para detectar e impedir que se suban contenidos falsos, así como para eliminarlos si ya se encuentran en la red.

    El impacto más negativo que pueden causar los Deepfakes es generar en la sociedad una ausencia absoluta de confianza, lo que termine ocasionando un gran desinterés a la hora de diferenciar entre los archivos verdaderos y los Deepfakes. Cuando esta confianza es erosionada, se facilita mucho el hecho de generar dudas e inculcar ideas erróneas, dificultando el pensamiento crítico.

    Para la Criminología, los Deepfakes pueden suponer también una grave amenaza, ya que, aparte de todo lo mencionado anteriormente (fraudes, estafas, delitos informáticos, bullying, sextorsión, etc.) podrían ser utilizados como pruebas verídicas, cuya comprobación resulte extremadamente difícil, en los tribunales. Los Deepfakes también suponen un riesgo en la seguridad personal, ya que, en un futuro no muy lejano, estos archivos podrían utilizarse para engañar a sistemas de reconocimiento facial o de voz, consiguiendo que la biometría de control de accesos cada vez sea menos eficaz y fiable. 

    Si te interesa conocer algunos de los tipos de estafas y fraudes más frecuentes, te recomendamos los siguientes artículos:

    Por último, cabe mencionar que los Deepfakes son una amenaza para la sociedad, tanto para el sistema político como para el financiero, ya que pueden servir para:

    • Presionar a los periodistas que luchan contra las fake news.
    • Amenazar la seguridad nacional interfiriendo en las elecciones.
    • Obstaculizar la confianza de los ciudadanos en las autoridades.
    • Ocasionar problemas de ciberseguridad en empresas o instituciones.

    La ciberseguridad es más importante que nunca. Los ciberataques, pueden afectar a cualquier infraestructura financiera, política, empresarial e incluso de salud, pero también afectarnos a nivel personal. Fórmate en Ciberseguridad para aprender a prevenir los ciberriesgos y los ciberataques y mejorar tu perfil profesional. 

     

      Quiero saber más sobre Seguridad de la Información y Ciberseguridad, ¿qué hago?

      Si quieres ampliar información sobre cualquier ámbito de la Ciberseguridad, consulta estos artículos de nuestro blog:

        Si quieres empezar ya a formarte en Ciberseguridad, te recomendamos estos cursos online:

        Si quieres saber aún más

        Suscríbete para ser el primero en recibir artículos, análisis y noticias, además de descuentos exclusivos para suscriptores en formación sobre Seguridad, Inteligencia, Ciberseguridad y Geopolítica.