Ciberseguridad e inteligencia artificial: ¿qué nos depara 2025?

Mientras que la tecnología de IA ayuda a los defensores a mejorar la seguridad, los actores maliciosos no pierden el tiempo en aprovechar las herramientas potenciadas por IA, por lo que podemos esperar un aumento de las estafas, la ingeniería social, el fraude de cuentas, la desinformación y otras amenazas.

Esto es lo que puede esperar de 2025.

Qué hay que tener en cuenta

A principios de 2024, el Centro Nacional de Ciberseguridad del Reino Unido (NCSC) advirtió que la IA ya está siendo utilizada por todo tipo de actores de amenazas y que "casi con toda seguridad aumentará el volumen y el impacto de los ciberataques en los próximos dos años". La amenaza es más grave en el contexto de la ingeniería social, donde la IA generativa (GenAI) puede ayudar a los actores maliciosos a elaborar campañas muy convincentes en idiomas locales impecables; o en el reconocimiento, donde la IA puede automatizar la identificación a gran escala de activos vulnerables.

Aunque estas tendencias continuarán sin duda en 2025, es posible que también veamos el uso de la IA para:

• Eludir la autenticación: La tecnología Deepfake se utiliza para ayudar a los estafadores a hacerse pasar por clientes en selfies y comprobaciones basadas en vídeo para la creación de nuevas cuentas y el acceso a cuentas.
• Compromiso del correo electrónico comercial (BEC): La IA se utiliza una vez más para la ingeniería social, pero esta vez para engañar a un destinatario corporativo para que transfiera fondos a una cuenta bajo el control del estafador. El audio y el vídeo falsos también pueden utilizarse para hacerse pasar por directores generales y otros altos cargos en llamadas telefónicas y reuniones virtuales.
• Estafas de suplantación de identidad: Los grandes modelos lingüísticos (LLM) de código abierto ofrecerán nuevas oportunidades a los estafadores. Al entrenarlos con datos extraídos de cuentas de redes sociales pirateadas o de acceso público, los estafadores podrían suplantar la identidad de las víctimas en secuestros virtuales y otras estafas diseñadas para engañar a amigos y familiares.
• Estafas de personas influyentes: De forma similar, es de esperar que en 2025 los estafadores continuen utilizando GenAI para crear cuentas de redes sociales falsas o duplicadas imitando a celebridades, personas influyentes y otras figuras conocidas. Se publicarán vídeos deepfake para atraer a los seguidores y hacerles entregar información personal y dinero, por ejemplo en estafas de inversión y criptomonedas, incluyendo los tipos de estratagemas destacadas en el último Informe de Amenazas de ESET. Esto aumentará la presión sobre las plataformas de redes sociales para que ofrezcan herramientas eficaces de verificación de cuentas e insignias, así como para que te mantengas alerta.
• Desinformación: Los estados hostiles y otros grupos aprovecharán GenAI para generar fácilmente contenido falso, con el fin de enganchar a los usuarios crédulos de las redes sociales para que sigan cuentas falsas. Estos usuarios podrían convertirse entonces en amplificadores en línea para operaciones de influencia, de una manera más eficaz y difícil de detectar que las granjas de contenidos/trolls.
• Descifrado de contraseñas: Las herramientas impulsadas por la IA son capaces de desenmascarar credenciales de usuario en masa en cuestión de segundos para permitir el acceso a redes y datos corporativos, así como a cuentas de clientes.

Preocupaciones por la privacidad de la IA en 2025

La IA no sólo será una herramienta para los actores de amenazas durante el próximo año. También podría introducir un elevado riesgo de fuga de datos. La IA requiere enormes volúmenes de texto, imágenes y vídeo para entrenarse. A menudo, por accidente, algunos de esos datos serán sensibles. En algunos casos, las redes sociales y otras empresas pueden cambiar los términos y condiciones para utilizar los datos de los clientes para entrenar modelos.

Una vez acaparada por el modelo de IA, esta información representa un riesgo para las personas si el propio sistema de IA es pirateado. O si la información se comparte con otros a través de aplicaciones GenAI que se ejecutan sobre el LLM. También existe la preocupación de que los usuarios corporativos compartan involuntariamente información sensible relacionada con el trabajo a través de los mensajes de GenAI. Según una encuesta, una quinta parte de las empresas británicas han expuesto accidentalmente datos corporativos potencialmente sensibles a través del uso de GenAI por parte de sus empleados.

IA para defensores en 2025

La buena noticia es que la IA desempeñará un papel cada vez más importante en el trabajo de los equipos de ciberseguridad durante el próximo año, a medida que se incorpore a nuevos productos y servicios. Sobre la base de una larga historia de seguridad impulsada por la IA, estas nuevas ofertas ayudarán a:

• generar datos sintéticos para la formación de usuarios, equipos de seguridad e incluso herramientas de seguridad de IA
• resumir informes de inteligencia sobre amenazas largos y complejos para los analistas y facilitar una toma de decisiones más rápida en caso de incidentes
• mejorar la productividad de SecOps contextualizando y priorizando las alertas para los equipos ampliados, y automatizando los flujos de trabajo para la investigación y la corrección
• analizar grandes volúmenes de datos en busca de indicios de comportamiento sospechoso
• mejorar la capacitación de los equipos de TI mediante funciones de "copiloto" integradas en varios productos para ayudar a reducir la probabilidad de errores de configuración

Sin embargo, los responsables de TI y seguridad también deben comprender las limitaciones de la IA y la importancia de la experiencia humana en el proceso de toma de decisiones. En 2025 será necesario un equilibrio entre humanos y máquinas para mitigar el riesgo de alucinaciones, degradación de modelos y otras consecuencias potencialmente negativas. La IA no es una bala de plata. Debe combinarse con otras herramientas y técnicas para obtener resultados óptimos.