PUNTOS IMPORTANTES:
- Investigadores desarrollaron una técnica llamada Adversarial HalluSquatting, que explota las alucinaciones de los modelos de inteligencia artificial para dirigirlos hacia recursos maliciosos.
- En pruebas realizadas con asistentes de programación como Cursor, GitHub Copilot y Gemini CLI, el ataque logró inducir la ejecución de código malicioso en entornos controlados.
- Los expertos advierten que, a medida que los agentes de IA adquieren mayor autonomía para navegar por internet y ejecutar tareas, este tipo de vulnerabilidades podría convertirse en una nueva amenaza para la ciberseguridad.
Un grupo de investigadores de la Universidad de Tel Aviv, el Technion e Intuit presentó una nueva técnica de ataque denominada Adversarial HalluSquatting, que aprovecha las llamadas «alucinaciones» de los modelos de inteligencia artificial para engañar a agentes automatizados y hacer que interactúen con recursos controlados por atacantes.
El estudio explica que algunos asistentes de IA generan enlaces o nombres de repositorios de software que en realidad no existen. Los investigadores demostraron que un atacante puede anticipar cuáles de esos recursos ficticios podrían ser creados por la IA, registrarlos antes que nadie e incorporar instrucciones maliciosas en ellos.
Cuando un agente de inteligencia artificial consulta posteriormente ese recurso inexistente, puede asumir erróneamente que se trata de una fuente legítima y ejecutar acciones basadas en su contenido, abriendo la puerta a la instalación de malware o incluso a la ejecución remota de código.
Los autores señalan que este riesgo aumenta a medida que los asistentes de IA evolucionan desde simples chatbots hacia agentes capaces de navegar por internet, acceder a archivos, escribir código, instalar herramientas y ejecutar comandos de manera autónoma.
Durante las pruebas, los investigadores evaluaron la técnica contra herramientas de programación asistida por IA como Cursor, GitHub Copilot, Gemini CLI y OpenClaw. En algunos escenarios, las alucinaciones relacionadas con repositorios falsos aparecieron en hasta un 85% de los casos, mientras que en pruebas de instalación de habilidades («skills») la tasa alcanzó el 100%.
El método guarda similitud con el conocido ataque de typosquatting, en el que los ciberdelincuentes registran dominios o paquetes con nombres muy parecidos a los originales para engañar a los usuarios. La diferencia es que HalluSquatting no explota errores humanos al escribir, sino errores generados por los propios modelos de inteligencia artificial.
Los investigadores también advirtieron que esta técnica podría facilitar la creación de botnets controladas mediante agentes de IA, capaces de distribuir malware, ejecutar ataques de denegación de servicio (DDoS), minar criptomonedas o desplegar campañas de ransomware.
El estudio se suma a una serie de investigaciones recientes sobre nuevas amenazas contra sistemas de inteligencia artificial. En los últimos meses se han documentado ataques mediante prompt injection indirecto, archivos con instrucciones ocultas para manipular asistentes de programación y miles de intentos de extraer información confidencial de agentes autónomos, poniendo de relieve la creciente importancia de reforzar la seguridad de estas tecnologías antes de que su uso se generalice.
Descargo de responsabilidad: Toda la información encontrada en Bitfinanzas es dada con la mejor intención, esta no representa ninguna recomendación de inversión y es solo para fines informativos. Recuerda hacer siempre tu propia investigación.
