Aparece en pantalla Kim Kardashian. El encuadre es el típico de una entrevista, con la figura de la celebridad enfocada en primer plano. Kardashian gesticula con las manos y vocaliza el discurso que está dando, todo normal, menos el propio discurso: “Este vídeo está generado en su totalidad por el modelo de deepfake de Argil.AI, que permite generar tus propios vídeos, en cualquier lengua, en menos de dos minutos”. Los vídeos que vamos a ver a continuación marcan un antes y un después en los deepfake. Dicho de otra forma, ha llegado el momento de educar y predicar un mensaje sobre lo que vemos en internet, porque ya no se puede confiar en el vídeo.

Si se quiere también, el paso que ha dado el programa Argil.AI ha cruzado una línea que hace casi indistinguible la realidad del fake en vídeo, y lo hace “democratizando” la forma de generar este tipo de contenidos en apenas dos minutos. Un sistema peligroso por los usos que se le puedan dar.

Veamos los ejemplos que ha mostrado la compañía en las últimas horas empezando por el de Kim Kardashian:

Este otro video es una versión clonada de una versión de Lex Fridman clonada con el modelo Argil AI:

También tenemos a Mark Zuckerberg:

O a Obama:

A Marc Andreesseen:

O al cofundador de Argil AI y su clon:

Por supuesto, ni siquiera podemos hablar de vídeos perfectos, en todos ellos, si nos fijamos detenidamente, podemos encontrar fallos, bien de ejecución, concordancia en los gestos, en la boca… pero como decimos mucho estos días, hablamos de sistemas que acaban de salir, con un potencial abrumador, y que en apenas unos minutos ya son capaces de generar estas secuencias que pueden engañar a cualquiera que no tenga la alerta (básicamente, cualquier persona sumergida en el engorroso timeline en que se ha convertido cualquier red social).

Esto nos lleva a muchos lugares, algunos ciertamente inquietantes a tenor de las posibilidades que puede tener el deepfake cuando la motivación sea la de influenciar o engañar con motivos poco éticos o directamente criminales. Por supuesto, también puede tener su lado positivo, sin ir más lejos, el fundador de Argil.AI decía hace unas horas que, siendo consciente de que la tecnología puede utilizarse de forma terrible, también puede ser muy positiva, con el ejemplo de que “Iron Man le enseñe matemáticas a tu hijo”.

Como decíamos hace unos días, parece que estamos plantando las semillas para que el teorema de Thomas por fin tenga lo necesario para ser dogma. A mucha gente le dará igual lo que está viendo si simplemente le hace gracia, pero otras defenderán que lo que ven es la realidad porque sencillamente se ajustará a sus realidades y/o creencias.

De alguna forma, la IA parece ir encaminada a “democratizar” la posverdad, y de ahí, a que cualquiera pueda convencer a los incautos de la mayor broma o bulo que el ser humano jamás haya imaginado.