Los trucos para detectar que un vídeo es un 'deepfake' hecho por inteligencia artificial

Los delincuentes tecnológicos siguen muy de cerca los avances de la inteligencia artificial y se producen estafas a millones de personas en internet con una regularidad cada vez mayor.

Si bien empresas como ChatGPT nos permiten agregar eficiencia e información a nuestras vidas como nunca antes, también se han abierto las puertas para que los delincuentes utilicen la inteligencia artificial para causar estragos en víctimas desprevenidas.

Hackers altamente capacitados han creado 'bots malos' como WormGPT, WolfGPT y FraudGPT para lanzar ataques de phishing y malware. 

Gracias a la capacidad de analizar grandes cantidades de datos, se desarrollan estafas altamente personalizadas y convincentes que intentan robar datos bancarios o presionar a las personas para que hagan clic en enlaces, abriendo la puerta a ataques a gran escala.

También pueden identificar sitios web vulnerables para que los piratas informáticos los ataquen y generen código para crear nuevas formas de malware con el potencial de evadir la detección tradicional.

Las estafas en las redes sociales, la clonación de voces y el aumento de los deepfakes altamente sofisticados tienen el potencial de engañar al público, siendo los usuarios de tecnología de edad avanzada los que corren mayor riesgo.

Los 'deepfakes'

Los expertos han identificado como un problema grave los deepfakes, imitadores generados por computadora diseñados para imitar la apariencia y el sonido de personas conocidas o famosas.

La víctima puede confiar instantáneamente en internet porque es alguien a quien reconoce y, por lo tanto, tener menos problemas para transferir dinero o entregar información personal valiosa.

Se conocen casos en los que expresidentes de EE UU como Barack Obama y Donald Trump, así como el actual presidente Joe Biden, han sido suplantados, mientras que imágenes de estrellas de Hollywood como Leonardo DiCaprio y Tom Cruise también han sido usadas con la intención de engañar a la gente.

Pero hay manera de detectarlo. Marijus Briedis, director de tecnología de la empresa de ciberseguridad NordVPN, dice a The Sun que los piratas informáticos todavía son propensos a cometer errores que podrían delatar sus intenciones.

"Esté atento a los movimientos repentinos de la cabeza que pueden revelar bordes borrosos de la figura en la película o cambios inusuales en la iluminación", dijo.

"La forma en que se injerta un deepfake de IA en la imagen de la persona real puede ser sorprendentemente suave, haciendo que el resultado final parezca brillante, o como si se le hubiera aplicado un filtro de redes sociales. Los movimientos de la boca también pueden parecer antinaturales a simple vista", prosigue el experto.

Perfiles falsos en LinkedIn

Desafortunadamente, los deepfakes son sólo una parte del creciente problema en la batalla por la seguridad en internet. Los perfiles falsos de LinkedIn y redes sociales están por todas partes. Un enfoque común es que alguien sea contactado por un perfil falso que pretende tener contactos en común.

Un robot, que se hace pasar por una persona real, intentará ponerse en contacto con usted e intentará convencerlo de que se registre en una estafa de inversión.

"En sitios de redes profesionales como LinkedIn, es más probable que las personas acepten solicitudes de personas que no conocen, especialmente si están en la misma industria o en un puesto que les ayude en su carrera, como un reclutador", dijo Breidis.

Una investigación reciente de NordLayer mostró que el 47% de los usuarios de LinkedIn en los Estados Unidos recibieron una solicitud para conectarse con un enlace sospechoso y el 29% recibió una invitación para participar en una encuesta falsa.

Mientras tanto, LinkedIn identificó más de 21 millones de cuentas falsas en la segunda mitad de 2022, lo que sugiere que uno de cada 40 usuarios eran bots. Los perfiles suelen ofrecer puestos de trabajo que no existen.

"Un perfil fraudulento de LinkedIn suele ser el primero en ponerse en contacto con usted, así que tenga mucho cuidado al hacer clic en enlaces o cuando le informen sobre ofertas de trabajo", añadió Briedis.

"El perfil del estafador generalmente puede dar pistas de que tal vez no sea quien dice ser. Los perfiles reales enlazan con el sitio web de la empresa de la persona o con sus perfiles profesionales en las redes sociales, pero tenga cuidado al hacer clic en cualquier enlace que haya sido acortado, ya que podría ser otra forma de infectar su computadora con malware", dice Briedis.

"Busque inconsistencias en las publicaciones del perfil, como errores ortográficos, y tenga cuidado con los perfiles con una gran actividad en un período de tiempo muy corto o si tienen muy pocas conexiones", prosigue.

"Afortunadamente, LinkedIn ha intervenido para abordar este tipo de estafa y anunció recientemente que había desarrollado un nuevo detector de imágenes con IA para detectar perfiles falsos, con una tasa de éxito del 99%", explica Briedis.

Clonación de voz

La IA también se ha creado para producir estafas de clonación de voz muy personales en las que se pueden clonar los sonidos de alguien que habla antes de transmitirlos a personas desprevenidas. La voz de un niño, por ejemplo, podría usarse para engañar a un padre para que se deshaga de grandes sumas de dinero.

Las llamadas fraudulentas hacen el trabajo preliminar: preguntan a las personas si pueden escucharlas antes de grabar su voz y luego dejar que la IA haga el resto del trabajo sucio.

"Las estafas de clonación de voz son un juego de imitación capaz de estafar a la gente con miles de dólares", dijo Briedis sobre la creciente amenaza del fraude de identidad.