Recientemente, Anthropic ha emitido una advertencia sobre el potencial de que modelos de inteligencia artificial pequeños den paso a malware auto-replicante capaz de infectar dispositivos de Internet de las Cosas (IoT), como refrigeradores inteligentes y aspiradoras. Según la empresa, para el próximo año, estos modelos podrían replicarse de forma autónoma en una variedad de dispositivos IoT, lo que podría facilitar la propagación de gusanos informáticos sin necesidad de interacción humana.
Los investigadores de Anthropic realizaron un experimento que reveló desafíos significativos para desarrollar un replicador de malware basado en IA, aunque los hallazgos generan preocupación sobre nuevas formas de gusanos informáticos. La compañía destacó que este tipo de malware sería difícil de detener, ya que no habría un punto centralizado para desactivarlo. Aunque podría ser lento, con un tiempo de duplicación de días, su capacidad para identificar dispositivos desconocidos de forma autónoma lo hace más peligroso que el malware tradicional.
Los modelos de IA más pequeños requieren hardware menos potente que los modelos más avanzados. Anthropic logró ejecutar modelos pequeños en cajas de Android de bajo costo y otros tipos de hardware IoT. Por ejemplo, el modelo Gemma4-26B-A4B necesitó solo 15 dispositivos, cada uno con 4GB de memoria, para lograr inferencia. Además, el modelo Qwen3.5-9B pudo configurar otros modelos de lenguaje en ocho de nueve tipos de hardware.
A diferencia del malware convencional, que debe ser escrito para funcionar en hardware o software específicos, estos modelos son capaces de realizar configuraciones dinámicas adaptadas a los dispositivos que están siendo atacados. Esto plantea la pregunta de si sería posible que modelos pequeños crearan infecciones auto-replicantes que operen en dispositivos IoT, similar a lo que hace el gusano Mirai, pero con un nivel de amenaza mucho mayor.
Anthropic describió estos gusanos autónomos como replicadores basados en pesos pequeños, capaces de aprender en el proceso. Cada vez que un replicador de IA falla en comprometer un dispositivo, puede dejar una lista de instrucciones para futuros replicadores, optimizando así el proceso de ataque. Este enfoque plantea un desafío significativo para las empresas en términos de ciberseguridad, ya que la capacidad de estos modelos para adaptarse y aprender podría dificultar la defensa contra tales amenazas.
Comentarios