La IA entra en escena: atacantes la usan para evadir la detección de ciberseguridad
La IA aceleró el desarrollo y las pruebas de las herramientas, pero fueron los humanos quienes impulsaron el flujo de trabajo.
La amenaza que supone la Inteligencia Artificial en la ciberseguridad siguen generando alertas. Los analistas de Sophos X-Ops observaron a un actor malicioso utilizando tecnologías de IA para probar tácticas de evasión de la detección y respuesta en endpoints (EDR).
Los especialistas detectaron la actividad cuando un endpoint anómalo registrado en el entorno de un cliente activó alertas por cargas útiles procedentes de C:\Users\User\Documents\test. Varios archivos de este directorio eran maliciosos y apuntaban a un marco de ataque más amplio centrado en eludir la detección, teniendo en cuenta los siguientes aspectos:
-
Perfiles de Cobalt Strike diseñados para que el tráfico se pareciera a solicitudes web legítimas.
-
Un mecanismo de comando y control (C2) externo basado en la API de un bot de Telegram que enrutaba la comunicación a través de la infraestructura de dicha red social, en lugar de usar conexiones directas.
-
Scripts de desarrollo de malware basados en Python para inyectar código shell en ejecutables legítimos de Windows conservando la funcionalidad original.
-
Un Cloudflare Worker que actuaba como redireccionador front-end para ocultar el servidor C2 back-end real.
Herramientas generadas por IA
Varios scripts de Python en el dispositivo, muchos de los cuales estaban escritos en ruso, fueron, en parte, generados por IA. Una investigación más profunda reveló un repositorio de Git que contenía un marco de herramientas y scripts que se alineaban con dos componentes: un panel de descubrimiento automatizado de Active Directory (AD) y un laboratorio que utilizaba un enfoque iterativo para desarrollar y probar malware contra los agentes de detección y respuesta en endpoints (EDR) de Sophos, entre otros proveedores.
La actividad del panel de AD se asemejaba mucho a una funcionalidad automatizada impulsada por IA, pero no representaba un modelo de lenguaje grande (LLM) con razonamiento autónomo. En su lugar, el sistema recopilaba observaciones de tareas completadas, eligiendo la siguiente rama de un conjunto predefinido de acciones, enviando trabajo a agentes remotos y reevaluando cuando obtiene los resultados.
El análisis reveló que la IA para el desarrollo de malware era más limitada y se usaba principalmente para coordinar flujos de trabajo y apoyar la experimentación. La ruta real para eludir el EDR consistía en un ciclo de pruebas de ingeniería estructurado que incluía revisión humana e iteración.
El atacante utilizaba un sistema de máquinas virtuales aprovisionado desde Ludus en su dispositivo. Además, utilizó un entorno de desarrollo integrado (IDE) nativo de IA llamado Cursor para ayudar a desarrollar herramientas que eludieran a los agentes EDR. El proceso de desarrollo implicaba la creación, prueba, análisis y perfeccionamiento del malware.
En el entorno de pruebas identificado, establecido aparentemente como un marco de equipo rojo, el atacante configuró varias máquinas virtuales (VM) que ejecutaban Windows Server 2022. Una VM probaba herramientas para eludir el agente de Sophos, otra era para un agente de otro proveedor, y una tercera era un entorno de control sin ningún agente EDR instalado. Una cuarta VM, que ejecutaba una versión de Ubuntu, era un servidor C2 del marco de post-explotación Sliver.
El atacante configuró los parámetros para que varios agentes de IA operaran dentro del marco, describiendo sus roles y funciones. Un agente que utilizaba Claude Opus 4.5 se encargaba de las operaciones principales y de establecer las reglas para los demás agentes. Otro agente probó herramientas contra los agentes EDR. Los restantes proporcionaban funciones de apoyo, como el refuerzo de la seguridad operativa (OPSEC), la elaboración de documentación, las pruebas de estrés de proxies y el despliegue de máquinas virtuales. Los agentes comunicaban los problemas de código y las confirmaciones a Git a través del Model Context Protocol (MCP), un estándar abierto que permite a los asistentes de IA conectarse con herramientas y fuentes de datos externas.
Recomendaciones y protecciones
El uso de agentes de IA para acelerar el desarrollo de herramientas y las técnicas de evasión de pruebas reduce la barrera de entrada para los sofisticados ataques de tipo «Red Team». Sin embargo, este cambio no altera la forma en que los defensores deben protegerse. Los investigadores de CTU de Sophos recomiendan que las organizaciones sigan manteniendo protecciones sólidas de defensa en profundidad, ya que los actores maliciosos aprovecharán cualquier brecha en el marco de control.
La IA hace que sea más fácil y rápido identificar estas brechas. Los aspectos fundamentales siguen siendo críticos, incluyendo la aplicación oportuna de parches, la autenticación multifactorial (MFA), y otros mecanismos modernos, como las claves de acceso y el despliegue generalizado de una solución EDR eficaz.