Los peligros de los deepfakes o vídeos falsos

Como ya te expliqué en un post la tecnología de los deepfakes (o también llamados vídeos falsos) es una técnica de inteligencia artificial que normalmente se utiliza en el campo del vídeo para incluir imágenes de personas que realmente no están ahí. El término, no olvidemos que surge de los anglicismos deep learning + fake.

Para ello, los deepfakes se sirven de algoritmos de aprendizaje no supervisados y vídeos o imágenes ya existentes. Así, una cara puede ser reemplazada por la que se desee y esta puede realizar todas las expresiones y gestos que había en el vídeo original.

Los peligros de los deepfakes

Lejos de ser una mera broma, los peligros de los deepfakes son muy reales. No solo pueden dañar la imagen u honor de una persona, usándose para llevar a pensar que ha hecho o ha dicho algo en lo que no estuvo implicado (como la utilización de imágenes de mujeres famosas en vídeos falsos pornográficos). Estos engaños también pueden derivar en incidentes para la seguridad e incluso en robos.

A principios de septiembre se conoció que un deepfake de voz fue utilizado para hacer creer al CEO de una firma británica de energía que estaba hablando con su superior, el consejero delegado de su empresa matriz en Alemania, y pedirle que hiciera una suntuosa transferencia económica. Así, esta voz falsa que había sido capaz de imitar, incluso, el acento germano del ejecutivo, le solicitó que transfiriera 220.000 libras (unos 243.000 euros a una cuenta bancaria de un proveedor húngaro.

Lo más increíble es que el estafador habría llamado tres veces usando el deepfake. La primera fue para iniciar la transferencia. La segunda para reclamar falsamente que había sido reembolsada y una tercera vez en busca de un pago de seguimiento.

Esta noticia, publicada en The Wall Street Journal, muestra que la amenaza de los vídeos falsos es muy real y no solo se da mediante la edición de imagen. El sonido también puede está sujeto a fraudes.

Iniciativas para luchar contra los vídeos falsos

Las empresas tecnológicas están poniendo de su parte para luchar contra los deepfakes. Google ha anunciado la publicación de una base de datos de 3.000 vídeos falsos de este tipo (que continuará ampliándose) generados con el propósito de que los investigadores puedan ir mejorando sus fórmulas de detección.

La compañía de Mountain View ha contratado actores con el fin de grabar su rostro y hacer experimentos con los rostros de otros individuos. El reto para los investigadores está en averiguar qué rostros es el que se usó de fondo originalmente.

Otro frente para plantar cara a los deepfakes es el formado por Facebook junto a Microsoft otras entidades. Todos ellos han lanzado el DFDC (Reto para la Detección de Deepfakes). El challenge cuenta comuna base de datos y una clasificación y el objetivo es ofrecer premios y financiación para que empresas e individuos creen nuevas herramientas para detectar y evitar que estos medios manipulados se utilicen para engañar a otros.

Cuenta con nosotros si estás en un proyecto similar

¿Has creado una startup centrada en combatir los deepfakes o en ayudar a comprenderlos? ¿Buscas financiación para tu proyecto? En Dipcom Corporate, podemos ayudarte a que logres los fondos que necesitas para llevar tu empresa al siguiente nivel. Durante los últimos años hemos establecido una buena relación con el mundo del capital riesgo y los inversores.

Ponte en contacto conmigo usando el siguiente formulario y te contaré con más detalle. Si lo que buscas es un mentor, también puedo echarte una mano, ya que también cumplo esa faceta como hobby.