¿El fraude con GenAI podría frenar el desarrollo de las Smart Cities?

 

Incode Technologies advierte sobre cinco riesgos críticos que la inteligencia artificial generativa (IA generativa) podría traer a Colombia en términos de fraude.

Estos riesgos no solo amenazan la seguridad digital del país, sino que también podrían afectar la apuesta por avanzar hacia el concepto de ciudades inteligentes, un proyecto clave para el desarrollo urbano y social.

 

Con el crecimiento exponencial del uso de la IA generativa, el país enfrenta nuevos desafíos que podrían comprometer la confianza pública, la seguridad de las transacciones y la integridad de las instituciones.

Según el Informe del índice de Inteligencia de Amenazas X-Force de IBM 2024, el 71% de los delitos informáticos son por explotación de identidad y Colombia es el segundo país de América Latina más afectado con un 17% de los casos.

Ante este panorama, Incode Technologies en el marco de ANDICOM 2024, el Congreso Internacional de TIC, comparte algunos riesgos críticos en materia de fraude con IA Generativa:

 

1) Deepfakes de video y audio:

La creación de vídeos y audios falsos hiperrealistas puede manipular la opinión pública, desinformar a las audiencias y extorsionar a personas y empresas.

En un entorno de ciudades inteligentes, donde la integración digital es clave, estos fraudes pueden socavar la confianza en las plataformas de comunicación y seguridad pública.

 

2) Phishing y suplantación de identidad automatizados:

La IA generativa permite crear correos electrónicos, mensajes de texto y publicaciones en redes sociales extremadamente realistas, engañando a los ciudadanos y entidades públicas para obtener información personal o financiera.

Este tipo de fraude sofisticado podría amenazar la infraestructura digital de las ciudades inteligentes, que depende de la confianza en la interacción digital segura.

3) Difusión de noticias falsas y manipulación de información:

La generación de noticias falsas con IA puede afectar la estabilidad social y política, y manipular mercados financieros.

En un contexto de ciudades inteligentes, donde la información en tiempo real es vital, la desinformación podría paralizar operaciones críticas, desde la gestión del tráfico hasta la respuesta a emergencias.

 

4) Falsificación de documentos y trámites públicos:

La IA generativa puede ser utilizada para crear documentos falsos que imitan a los legales y oficiales, comprometiendo la seguridad de los sistemas financieros y de gobernanza digital.

Esto podría afectar la eficiencia y seguridad de los trámites en las ciudades inteligentes, reduciendo la confianza en las plataformas gubernamentales digitales.

 

5) Manipulación de identidades digitales y engaños en sistemas automatizados:

La creación de identidades digitales falsas y la suplantación de perfiles en servicios públicos o privados pueden desencadenar fraudes masivos en plataformas de servicios de ciudades inteligentes, desde la atención en salud hasta el transporte público.

Esta manipulación puede afectar la credibilidad de los sistemas basados en IA, como los que gestionan la seguridad y el flujo de información en tiempo real.

 

Los sectores más vulnerados.

De acuerdo con el análisis de X-Force, durante el 2023 los sectores más afectados en América Latina fueron retail, finanzas y seguros, con un 25% cada uno.

Además, la inversión de los atacantes en operaciones para obtener identidades de usuarios a nivel mundial aumentó en un 266%.

Esto añadido a la falta de soluciones adecuadas y pruebas de resistencia, de las cuales carecen las organizaciones en sus sistemas tecnológicos.

Iñigo Castillo, Gerente General de Incode Technologies para Latinoamérica, asegura:

“En Incode creemos firmemente que la IA generativa es una herramienta poderosa para el desarrollo, pero si no se gestiona adecuadamente, puede convertirse en una amenaza significativa para la construcción de ciudades inteligentes seguras y confiables. La confianza es el cimiento de cualquier ecosistema digital; sin ella, los ciudadanos no adoptarán las soluciones tecnológicas que mejoran su calidad de vida”.