Recientemente, investigadores de una startup en Israel identificaron que más de 100 sitios web están referenciando contenido ejecutable peligroso que se instala automáticamente al ser visitado por agentes de inteligencia artificial. Entre las empresas afectadas se encuentran varias de la lista Fortune 500, que ejecutaron código de prueba de concepto.
Los archivos en cuestión, denominados llms.txt y llms-full.txt, son utilizados por los sitios para proporcionar resúmenes legibles por máquinas de su contenido. Sin embargo, muchos de estos archivos están mal configurados, apuntando a paquetes de código o nombres de dominio no registrados. Esto permite que un atacante registre esos nombres y utilice el código para instalar ransomware o software malicioso.
Los investigadores escanearon 6,214 dominios en busca de estos archivos y encontraron 8,265 de ellos, de los cuales 120 apuntaban a paquetes no registrados. Al registrar algunos de estos nombres no reclamados, los investigadores recibieron respuestas de varias empresas, incluyendo algunas Fortune 500, lo que demuestra la vulnerabilidad real en el uso de agentes de AI.
Alon Hertz, uno de los investigadores, destacó que el modelo de confianza está roto, ya que los agentes de AI tratan la documentación de los proveedores como verdad absoluta. Esta situación se agrava a medida que el uso de AI agente crece, aumentando la superficie de ataque en las cadenas de suministro.
La vulnerabilidad se presenta cuando un agente de codificación con permiso para ejecutar comandos de shell trata el archivo como documentación de instalación autorizada. Esto puede llevar a que el agente descargue y ejecute paquetes maliciosos. Un caso específico involucró un archivo llms.txt en el sitio legítimo clerk.com, que contenía instrucciones potencialmente dañinas.
Las empresas deben revisar la configuración de sus archivos llms.txt y llms-full.txt para evitar que sus sistemas sean explotados por esta vulnerabilidad. La seguridad en la implementación de AI es crucial para proteger las redes corporativas de amenazas emergentes.
Comentarios