IA delictiva: algoritmos fuera de la ley

La inteligencia artificial o IA se ha convertido en un eje central del mundo de la ciberseguridad, y la dualidad de su utilización, con fines protectores, por un lado, y delictivos, por otro, plantea una carrera armamentista digital en la que conviven sistemas defensivos altamente avanzados con herramientas ofensivas igualmente sofisticadas, según expertos consultados por EFE.

No estamos viendo una simple escalada tecnológica, sino un cambio de paradigma absoluto en la ciberseguridad, enfatizan.

“La inteligencia artificial se ha convertido en un eje central del panorama de la ciberseguridad, y su dualidad plantea un nuevo modelo: una especie de carrera armamentista digital en la que conviven sistemas defensivos altamente avanzados con herramientas ofensivas igualmente sofisticadas”, señala Mario García, director general para España y Portugal de la firma de ciberseguridad Check Point Software.

En ese sentido “observamos un enfrentamiento cada vez más complejo entre lo que podríamos definir como ‘IA defensiva’ e ‘IA ofensiva’”, explica García.

Explica que la ‘inteligencia artificial que defiende’, integrada en plataformas de ciberseguridad avanzadas, “utiliza decenas de motores de análisis basados en IA para detectar, prevenir y responder en tiempo real a amenazas emergentes, incluyendo malware polimórfico (programas maliciosos que pueden modificar su propio código para cambiar su ‘apariencia’), ‘deepfakes’ (videos ultrafalsos) y ataques automatizados”.

Un exponente de esta tecnología es el sistema de ciberseguridad Check Point Infinity ThreatCloud AI, puntualiza.

Además, “la IA generativa defensiva actúa como copiloto de seguridad para asistir a los analistas en tareas complejas, reducir los tiempos de respuesta y anticipar movimientos del adversario”, añade.

FraudGPT y WormGPT: el peligro de las IA no éticas

Pero García advierte que, a su vez, “los ciberdelincuentes están replicando estos avances mediante el uso de IAs generativas no éticas como FraudGPT o WormGPT, capaces de generar campañas de ‘phishing’ (suplantación de identidad) altamente convincentes, contenido manipulado, ingeniería social automatizada y ‘malware’ (programas maliciosos) adaptativo, todo ello con una mínima intervención humana”.

“La descentralización de sus operaciones delictivas y la facilidad de acceso a modelos generativos de IA no filtrados aumentan su capacidad de ataque”, enfatiza.

García anticipa que “a medio y largo plazo, en la ciberseguridad se producirá una evolución hacia ecosistemas híbridos de defensa autónoma, donde la IA no solo detecte, sino también actúe en tiempo real (instantáneamente) con decisiones inteligentes”, lo cual “conllevará una redefinición de los actuales Centros de Operaciones de Seguridad (SOC)”.

“La clave para mantener la ventaja sobre la ciberdelincuencia estará en la capacidad de combinar una IA explicable con la supervisión humana, reforzar la gobernanza de datos, y establecer un marco normativo global que limite el uso malicioso de estas tecnologías emergentes”, según este especialista.

“La hipótesis de una superinteligencia autónoma en ambos frentes (el defensivo y el ofensivo) plantea un desafío filosófico, técnico y ético de gran magnitud”, según García.

“En la práctica, el equilibrio entre estas dos fuerzas dependerá no solo de la capacidad técnica de las IAs, sino de cómo las sociedades, gobiernos y empresas logren establecer mecanismos de control, transparencia y supervisión responsables”, opina.

​Inmersos en una batalla algorítmica

“Lo que estamos viendo actualmente no es una simple escalada tecnológica, sino un cambio de paradigma absoluto en el terreno de la ciberseguridad”, señala a EFE, Pablo Chapinal, director regional en Iberia de Zscaler (www.zscaler.com), firma proveedora de seguridad empresarial en la nube.

“Estamos inmersos en una auténtica batalla algorítmica, donde las IAs juegan un papel fundamental tanto en el refuerzo de la protección de las empresas como en la sofisticación de las amenazas”, puntualiza.

Chapinal señala que desde Zscaler observan cómo “las IAs al servicio del ciberdelito han ganado terreno gracias a su capacidad para automatizar ataques a escala masiva, crear `malware´ (programas maliciosos) sofisticado e incluso explotar vulnerabilidades en tiempo real”.

Además, los ciberdelincuentes “son capaces de operar con técnicas de evasión cada vez más avanzadas”, ratifica.

Por su parte, la IA defensiva ha evolucionado para ofrecer una seguridad predictiva y contextual, que se apoya en volúmenes de datos inmensos y en arquitecturas ‘zero trust’ (estrategia de ciberseguridad que se basa en "nunca confiar, siempre verificar") integradas ‘en la nube’ (acceso y uso de recursos informáticos a través de internet, en vez de tenerlos físicamente).

Chapinal explica que en Zscaler procesan más de 500.000 millones de transacciones diarias, lo que alimenta a sus IAs defensivas con una visibilidad global sin precedentes. “Esta tecnología de inteligencia es clave para anticipar amenazas, y no solo reaccionar ante ellas”, destaca.

Añade que el duelo o lucha entre las IAs “se está desplazando hacia un terreno donde la automatización, velocidad y capacidad de aprendizaje autónomo marcarán la diferencia”.

¿Quieres acceder a todo el contenido de calidad sin límites? ¡SUSCRÍBETE AQUÍ!