Clonación de influencers: el siguiente paso de la IA en manos de estafadores

Redes de ciberdelincuencia utilizan herramientas de inteligencia artificial para emular voces y rostros de creadores de contenido. La cantidad de casos de suplantación de identidad aumenta a medida que la  tecnología avanza.

En el año 2024 un empleado de Arup, empresa internacional que presta servicios de ingeniería, recibió un mensaje que parecía provenir del director financiero de la compañía. Acto seguido, se unió a una reunión virtual con casi una docena de supuestos colegas, incluyendo al mencionado director. Aunque al inicio había desconfiado del mensaje, el empleado bajó la guardia cuando vio los rostros en la videoconferencia. En ese momento autorizó 15 transferencias que sumaban más de 25 millones de dólares. Más tarde, una investigación policial descubrió que se trataba de estafadores que habían utilizado inteligencia artificial para clonar voces y rostros.

Se trató de un caso «de ingeniería social potenciada por la tecnología», dijo Rob Greig, director de informática de la empresa. En cuanto a las imágenes, los criminales usaron grabaciones públicas y teleconferencias sobre resultados financieros para simular los rostros de los «colegas», engañando así al trabajador en cuestión. Episodios como este evolucionaron y ahora involucran a influencers de todo el mundo, quienes están siendo clonados con IA para estafar a los usuarios de distintas plataformas.

Falso clon de TikTok «recaudó» dinero para un refugio y una iglesia

El término «deepfake» se refiere a una técnica que recrea imágenes humanas, basada en inteligencia artificial, para crear contenido falso utilizando videos existentes o creándolos desde cero. La definición calza a la perfección con el caso de Charles Ray, de 84 años de edad, convertido en una personalidad de TikTok. Cuenta con más de 56000 seguidores y 585.000 «me gusta» acumulados en la red social china.

Pero estafadores crearon otros canales de TikTok y usaron IA para conseguir dinero fácil. Este Ray ficticio afirmaba dirigir un refugio de animales, una granja y una iglesia para vender productos que no eran reales. El año pasado el verdadero influencer dijo que intentó denunciar los videos falsos, pero la plataforma china no tomó ninguna medida.

Influencer ucraniana clonada en el Instagram chino

Olga Loiek es una influencer ucraniana cuyo clon hecho con IA vendía productos en una red social china, afirmando ser de nacionalidad rusa. Ella descubrió «decenas de cuentas en redes sociales» que utilizaban su imagen sin que lo supiera. Cada cuenta en Xiaohongshu —el equivalente chino de Instagram— había acumulado entre 1000 y 150.000 seguidores.

En los contenidos hablaba mandarín con fluidez, elogiaba a China ycelebraba sus buenas relaciones con Rusia. Hasta el año 2024 cuando su caso salió a la luz, la influencer aseguró que desconocía quién clonó su rostro y que nadie le había solicitado permiso para usar su imagen.

Google tampoco se salva de los estafadores que usan IA

Cabe preguntarse qué herramientas utilizan los estafadores para la clonación de influencers. La respuesta está en la demanda que el gigante Google interpuso en junio pasado contra una red china de ciberdelincuencia, asegurando que utilizan sus programas de IA para difundir estafas financieras en Estados Unidos.

Según la demanda, reseñada por The New York Times, el grupo chino utilizó Gemini, «para crear cientos de sitios web falsos que imitaban a empresas como Google y YouTube, así como a organismos gubernamentales como el Servicio Postal y el servicio E-ZPass de Nueva York para el pago de peajes en autopistas». El gigante tecnológico no pudo precisar el monto de los daños, pero indicó que ascendían a millones. Es decir, los avances de la IA ya alertan a las autoridades en Estados Unidos, aunque una solución definitiva a este tipo de delito aún parece lejana teniendo en cuenta el acelerado avance de esta tecnología.

Fuente: panampost.com