Lidera la transformación de las organizaciones para convertirlas en digital ecosystems
Informe: Deepfake, ¿el fin de la realidad?
Durante los últimos años muchas de las aplicaciones móvil que se han popularizado nos permiten “jugar” con nuestras imágenes y vídeos, gracias a los avances en las técnicas de procesado de los mismos, y a las capacidades de inteligencia artificial.
Con estas aplicaciones podemos realizar retoques fotográficos (en algunos casos muy avanzados) sin necesidad de poseer conocimientos de fotografía, cambiarnos el color de pelo con Instagram, recrear versiones femeninas o masculinas de nosotros mismos con FaceApp, intercambiar nuestra cara con la de un bebé en Snapchat y mucho más.
La mayoría de estas aplicaciones y herramientas se basan en algoritmos y modelos de inteligencia artificial. Al uso de estas técnicas que hacen posible la modificación de los rasgos del rostro de una persona para hacerla pasar por otra se le conoce como Deepfake.
En el nuevo informe realizado por Three Points, Carlos Rodríguez Abellán, Senior Data Scientist en Telefónica, nos presenta todas las posibles aplicaciones de esta técnica y sus implicaciones morales.
¿Cómo alteran nuestra realidad los Deepfake?
Sin lugar a dudas esta técnica se ve aplicada en nuestro día a día mucho más de lo que sabemos. En algunos casos el resultado concluye siendo simpático, divertido e incluso positivo, pero en otros casos generan desinformación y una gran incógnita en cuanto a lo moral.
A continuación te detallamos algunos de los ámbitos en donde lo podemos ver reflejado:
- Redes sociales
El face swap ha tenido su mayor auge, a lo largo de los últimos 3 años, gracias a la aparición de múltiples aplicaciones para nuestros teléfonos móviles, así como a la mejora en la calidad de las cámaras.
- Cine
Actualmente, la aplicación de técnicas de deep learning en el cine es un área que se encuentra en desarrollo continuo con el fin de mejorar producciones nuevas y actualizar aquellas que son antiguas. Un gran ejemplo de esto se puede observar en la película “Rogue One”, de la afamada saga cinematográfica Star Wars. La película se enmarca película se enmarca temporalmente entre los episodios III y IV de la saga, lo que implica que los actores que interpretaban a los personajes en 1977 hoy en día no podrían volver a hacerlo al haber envejecido o incluso en algunos casos, haber fallecido. Por lo que se decidió fue recrear los personajes mencionados anteriormente mediante CGI, siglas que se corresponden a Computer Generated Imagery, o, en castellano, Imágenes Generadas por Ordenador.
- Publicidad
El comercial de la organización sin fines de lucro “Malaria No More” ha llamado mucho la atención, ya que aparecía el exfutbolista inglés David Beckham lanza una petición para detener la enfermedad en 9 idiomas. A excepción del inglés, los ocho idiomas restantes son recreados de manera artificial en diferentes tonos. Durante todo el discurso David Beckham mueve los labios como si realmente él estuviese emitiendo las palabras en los distintos idiomas.
- Arte y fotografía
En deep learning existe una técnica de optimización conocida como transferencia de estilo neuronal que permite combinar dos imágenes. Una de las imágenes se emplea como “contenido” y la otra como “referencia de estilo” (como las obras de un pintor determinado). Al combinarlas, el resultado es la imagen “contenido” aparentando tener el estilo de la imagen de referencia.
- Noticias
El caso de las fake news es quizá un ejemplo paradigmático de cómo los deepfakes pueden ayudar a propagar las fake news en la población ya que con herramientas -en muchos casos- al alcance de cualquiera, es posible crear, por ejemplo, un vídeo en el que aparezca una persona emitiendo un mensaje que nunca existió. Tal es el caso del famoso vídeo en donde Obama menciona (falso, por supuesto) que “El presidente Trump es un total y completo idiota”.
Implicaciones éticas y legales
Como se ha demostrado, los avances en la generación de rostros sintéticos y la manipulación de vídeo y voz son abrumadores. Sin ir más lejos, con los resultados actuales, en muchos casos puede ser muy difícil, sino imposible,
determinar si una imagen de una persona ha sido tomada por una cámara o si se trata de un deepfake.
Esto nos lleva a pensar que posiblemente, no dentro de mucho, la diferencia entre la realidad y la ficción en los vídeos que veamos en televisión o en internet será apenas apreciable.
Existen diversas situaciones que hacen que el uso del deepfake puede conllevar problemas o, como poco, situaciones que desde el plano ético y legal aún no están del todo claras.
Compañías como Facebook, Google o Twitter tratan de luchar contra la generación de este tipo de contenido de diversas maneras. Y, pese a los esfuerzos de estos gigantes de internet, destinados a entrenar modelos cada vez más
complejos que sean capaces de clasificar noticias como potencial contenido falso, o a desarrollar herramientas que permitan a sus usuarios reportar fake news, el problema no parece tener fácil solución.
También esta la alerta sobre suplantaciones de identidad en medios como el correo electrónico, los SMS, o redes sociales. Es en estas últimas donde el uso de deepfakes toma mayor relevancia al existir la posibilidad de poder suplantar la imagen de una persona e, incluso, su voz.
Muchos de los casos en los que el deepfake ha demostrado ser de gran utilidad es a la hora de recrear personas o personajes. Pero, desde el punto de vista legal, ¿qué ocurre si estas personas ya han fallecido? La ley es clara en qué está permitido a la hora de usar imágenes o fragmentos de vídeos en los que aparezca una persona ya fallecida. Pese a que desde el plano legal pueden estar definidos los límites, desde el plano de la ética existe mucha controversia.
¿Aliado o enemigo?
Estamos ante un escenario en el que las diferentes disciplinas dentro del inmenso espectro que ofrece la inteligencia artificial evolucionan a un ritmo acelerado. No solo día a día aparecen nuevos y prometedores avances, sino que
incluso se descubren técnicas que pueden ser aplicadas a sectores que hasta el momento no se habían planteado.
Un ejemplo evidente son los deepfakes y como gracias a ellos muchos sectores, como puede ser la industria cinematográfica, pueden verse beneficiados gracias a los impresionantes resultados obtenidos en la generación de rostros y voces de manera artificial.
Desgraciadamente, y como ocurre con todo gran avance en la ciencia y tecnología, tiene su parte negativa. El coste reputacional que esto puede acarrear a los protagonistas de los deepfakes, así como el impacto directo que puede tener en los mercados o en la política, son demasiado elevados como para no considerar un gran riesgo es posible uso ilegítimo que se pueda hacer con los deepfakes.
Sin duda, lo que parece ser necesario es una regulación rápida de las normas que permitan determinar cuáles son los límites a la hora de generar deepfakes.
Por cualquier consulta, escríbanos a info@threepoints.com
Por cualquier consulta, escríbanos a info@threepoints.com