Desde presentadores de televisión hasta políticos o empresarios. Los timadores están utilizando herramientas basadas en la inteligencia artificial (IA) para clonar las voces y alterar los rostros de personajes públicos. Los objetivos de esta manipulación pueden ser varios, como convencernos para invertir en falsas plataformas de criptomonedas o para comprar falsos “productos milagro”.
En este artículo, recopilamos los casos de los que hemos advertido en Maldita.es. Si te encuentras con algún vídeo que sospeches que no es real y con el que te están intentando vender algo, escríbenos a nuestro ‘buzón de timos’ ([email protected]).
Suplantan la identidad de Elon Musk y de periodistas para incitarte a invertir en supuestas plataformas de criptomonedas
Elon Musk, dueño de Twitter (ahora X) y de otras empresas como Tesla o SpaceX, es una cara recurrente en los intentos de timo. En Maldita.es hemos detectado muchos casos en los que se utiliza su imagen para engañarnos.
Ahora, también se está haciendo uso de la IA para suplantar la identidad del empresario. Por ejemplo, los timadores manipularon la intervención de Musk en un evento organizado por TED en abril de 2022, con el objetivo de promocionar una supuesta entidad de inversión en criptomonedas propiedad de Musk. En este caso, se trataba de un vídeo en el que se reemplazó la voz del magnate por su propia voz clonada con IA para cambiar su discurso. El propio Musk aclaró, a través de su perfil de Twitter, que quien hablaba en el vídeo no era él:
Los timadores también están suplantando la identidad de presentadores de televisión en vídeos en los que supuestamente anuncian una nueva plataforma de inversión creada por Musk.
Por ejemplo, ya os advertimos de vídeos en los que aparecen Paula Sainz-Pardo y Ángeles Bravo, ambas presentadoras del canal 24h de RTVE, anunciando una supuesta entidad de inversión del empresario. Sin embargo, las plataformas que se promocionan con estos vídeos no están autorizadas por la Comisión Nacional del Mercado de Valores (CNMV).
En este caso, las voces de las presentadoras también fueron clonadas con IA. Nieves Ábalos, fundadora de Monocero Labs, indicó a Verifica RTVE, el servicio de verificación de la corporación, que las voces de las presentadoras han sido clonadas “con un 98% de probabilidad" con el software ElevenLabs.
Ha circulado otro vídeo en el que aparece Beatriz Pérez-Aranda, también presentadora del Canal 24h, anunciando otra supuesta plataforma de Musk llamada “Bitcoin Millonario”. En este caso se ha clonado su voz y se ha alterado el movimiento de sus labios en el vídeo para engañarnos (un tipo de vídeo manipulado con IA llamado deepfake).
Vídeos manipulados para vendernos falsos “productos milagrosos”
En Facebook se ha difundido un vídeo en el que aparecen Sirún Demirjián, presentadora del Telediario de TVE, y el ministro de Sanidad, José Manuel Miñones, anunciando la aprobación de un supuesto producto “milagroso” para adelgazar, llamado ‘Keto Matcha Blue’.
Sin embargo, es un vídeo manipulado con inteligencia artificial. La voz de la periodista de TVE ha sido clonada. En el caso del ministro, han clonado su voz y han alterado el movimiento de su rostro a partir de una foto tomada el 2 de agosto de 2022, cuando era delegado del Gobierno en Galicia. Si nos fijamos en el vídeo creado a partir de la foto, su cuerpo y su cabeza permanecen inmóviles y sólo se altera el movimiento de su cara.
Este artículo se irá actualizando para incluir nuevos casos de timos en los que se utilice la IA.
Maldito Timo cuenta con el apoyo de:
