El 'deepfake' pone en jaque a famosos y empresas

Todos podemos ser víctimas del 'deepfake' si hemos subido imágenes y/o audios de voz a internet. Individuos más o menos experimentados en la inteligencia artificial pueden usar ese material para crear falso contenido, es decir, mensajes de voz, fotografías y videos fraudulentos con nuestra imagen.

Es lo que le ha ocurrido al doctor Pedro Cavadas y a la presentadora de televisión Sandra Golpe. Ambos han aparecido en la red promocionando supuestas cremas milagrosas que tanto valen para las articulaciones como para la diabetes o la sordera.

En este caso, el objetivo del montaje era claramente comercial, y coincide en el tiempo con un gran estafa de 24 millones de euros que ha tenido lugar en Hong Kong. Un empleado de una compañía de esta región fue engañado en una reunión en la que se limitó a ejecutar las órdenes de sus superiores: transferir la cantidad citada. El engaño se basó en la cúpula ejecutiva con la que estaba reunido on line: sólo uno de ellos era real. El resto habían sido creados mediante la técnica de Deep Fake.

Esta suplantación de identidad es posible, explica desde Predictland AI Andrés Visús, gracias a que la inteligencia artificial es capaz de recrear una imagen de una persona o de cualquier objeto aprendiendo de cientos, de miles de imágenes de esa cara u objeto. Para ello utiliza lo que se denomina redes neuronales generativas antagónicas, GANs, algoritmos que son capaces de aprender de los patrones que encuentra en las imágenes, para luego reproducirlos creando nuevas de ese objeto, rostro o imagen.

El 'deepfake', añade el director de operaciones de esta compañía pionera en la introducción de la inteligencia artificial en España, tiene un gran recorrido en relación al fraude, puesto que se puede utilizar para engañar a instituciones, gobiernos, poblaciones y, por lo tanto, incidir en la geopolítica y causar conflictos internacionales.

En cuanto a las soluciones para poner freno a estos contenidos engañosos, también desde Predictland, su CEO Javier Orús, se lamenta de que la legislación va más lenta que el desarrollo de la inteligencia artificial.

En este sentido, y aunque considera que la normativa europea en esta materia “va bien encaminada”, aboga por una regulación que se centre en el uso que se hace de las soluciones de inteligencia artificial y origen de los datos que ha utilizado.

Más allá de la cuestión legal, Orús aboga por una ética personal y empresarial de la Inteligencia Artificial, una realidad con más bondad que maldad, en tanto en cuento ofrece soluciones para los distintos sectores productivos en general y para la empresa en particular. Valgan como ejemplos, las aplicaciones y programas relacionaos con la salud y que ya tienen un gran impacto social.