¡Alerta! Las organizaciones ya no pueden confiar en el criterio humano para detectar deepfakes

 

Un estudio reciente de iProov revela que los deepfakes, esos videos e imágenes increíblemente realistas creados por inteligencia artificial, son una amenaza mucho mayor de lo que pensábamos.

 La investigación demuestra que la mayoría de las personas no pueden identificar estos contenidos falsos, lo que pone en riesgo nuestra seguridad digital, financiera y la confianza en la información que consumimos.

 

 Indetectables por la mayoría de los consumidores.

En un estudio realizado con 2.000 consumidores del Reino Unido y Estados Unidos, se expuso a los participantes a una variedad de contenidos reales y deepfakes.

 Los resultados fueron alarmantes: solo el 0,1 % de los encuestados logró distinguir todos los estímulos reales de los falsos.

 Este dato es aún más preocupante cuando se considera que los participantes fueron preparados para buscar señales de deepfakes.

 En situaciones del mundo real, donde las personas están menos alertas, la vulnerabilidad podría ser aún mayor.

 

 Brechas generacionales: los mayores, más vulnerables.

Uno de los hallazgos más destacados fue la alta vulnerabilidad entre las generaciones mayores.

 El estudio reveló que el 30 % de las personas de entre 55 y 64 años y el 39 % de los mayores de 65 años nunca habían oído hablar de los deepfakes.

 Esto pone de manifiesto una clara brecha en el conocimiento digital y una mayor susceptibilidad a ser engañados por estos contenidos falsos.

 

Peligrosidad de los videos.

Los videos resultaron ser particularmente difíciles de detectar. Solo el 9 % de los participantes logró identificar todos los deepfakes en los videos presentados.

 Este hallazgo es alarmante, ya que los videos falsificados se están utilizando cada vez más para suplantar identidades en videollamadas o en sistemas de verificación de identidad, lo que podría dar lugar a fraudes graves.

 

 Desconfianza en las redes sociales.

Aunque la preocupación por los deepfakes está en aumento, muchos aún desconocen esta tecnología. Un 22 % de los consumidores nunca había oído hablar de los deepfakes antes del estudio.

 A pesar de los bajos resultados, los participantes mostraron una confianza excesiva en su habilidad para detectar estos contenidos falsos.

 Más del 60 % de los encuestados, incluidos los adultos jóvenes (18-34 años), estaban convencidos de que podían identificar los deepfakes, incluso si sus respuestas no eran correctas. Esta falsa sensación de seguridad es un motivo de preocupación.

 

Impacto social y la desinformación. 

El 74 % de las personas expresó su preocupación por el impacto social de los deepfakes, especialmente en lo que respecta a la propagación de noticias falsas (68 %). El temor es más pronunciado entre los mayores de 55 años (82 %).

 De hecho, solo uno de cada cinco encuestados sería capaz de denunciar un deepfake en plataformas sociales.

 Esta falta de acción contribuye a la difusión de desinformación y a la erosión de la confianza en los medios de comunicación.

 

Respuesta insuficiente ante la amenaza.

Menos de un tercio de las personas (29 %) toman medidas al encontrar un presunto deepfake. Esto se debe en gran parte a que el 48 % no sabe cómo denunciar estos contenidos, mientras que una cuarta parte no siente la necesidad de hacerlo.

 La mayoría de los consumidores no verifica activamente la autenticidad de la información en línea, lo que los hace muy vulnerables a los engaños.

 Solo el 11 % de las personas analiza críticamente la fuente o el contexto de la información para determinar si se trata de un deepfake.

 

Opinión de los expertos.

El profesor Edgar Whitley, experto en identidad digital de la London School of Economics, destacó la seriedad de la situación:

“Los expertos en seguridad llevan tiempo advirtiendo sobre las amenazas que suponen los deepfakes tanto para las personas como para las organizaciones. Este estudio demuestra que las organizaciones ya no pueden confiar en el criterio humano para detectar deepfakes y deben buscar medios alternativos para autenticar a los usuarios de sus sistemas y servicios”.

 

Por su parte, Andrew Bud, fundador y CEO de iProov, subraya el peligro:

«Solo el 0,1 % de las personas pudieron identificar con precisión los deepfakes, lo que subraya lo vulnerables que son tanto las organizaciones como los individuos ante el fraude de identidad en la era de los deepfakes. Incluso cuando la gente sospecha que se trata de un deepfake, nuestra investigación nos indica que la gran mayoría de la gente no hace nada. Los delincuentes se aprovechan de la incapacidad de los consumidores para distinguir las imágenes reales de las falsas, poniendo en riesgo nuestra información personal y nuestra seguridad financiera. Las empresas tecnológicas tienen que proteger a sus clientes implementando medidas de seguridad sólidas. El uso de la biometría facial con la vitalidad proporciona un factor de autenticación fiable y prioriza tanto la seguridad como el control individual, lo que garantiza que las organizaciones y los usuarios puedan seguir el ritmo y permanecer protegidos de estas amenazas en constante evolución«.

 

 La creciente amenaza de los deepfakes.

La amenaza de los deepfakes está creciendo rápidamente. Según el Informe de inteligencia sobre amenazas 2024 de iProov, los intercambios de rostros, un tipo de deepfake, aumentaron un 704 % en el último año.

 Los ciberdelincuentes están utilizando estos contenidos falsos para acceder a cuentas y datos confidenciales, así como para crear identidades sintéticas con fines fraudulentos.

 

 ¿Qué se puede hacer? 

Dado que los deepfakes se están volviendo cada vez más sofisticados, la tecnología debe ser parte de la solución.

 Las organizaciones necesitan adoptar soluciones biométricas avanzadas que utilicen detección de vida para garantizar que las personas sean quienes dicen ser.

 También es esencial que haya colaboración entre proveedores de tecnología, plataformas y autoridades para desarrollar medidas de seguridad eficaces contra los deepfakes.

 

Haga la prueba de detección de deepfakes

¿Crees que eres inmune al engaño de los deepfakes?

¡Pon a prueba tus habilidades!

iProov ha creado un test en línea que te desafía a distinguir lo real de lo falso.

Haz El Test AQUÍ y comprueba tu puntuación.