Muse, el nuevo asistente de inteligencia artificial de Meta, enfrenta serias preocupaciones de seguridad tras descubrirse una vulnerabilidad de día cero. Este fallo permite que aplicaciones locales y comandos de terminal obtengan control completo sobre el asistente, lo que ha llevado a Amazon a bloquear su acceso a su plataforma.
Lanzado recientemente, Muse está diseñado para gestionar tareas como reservar citas, llenar formularios y atender servicio al cliente. Además, puede realizar compras, generar imágenes y conectarse con aplicaciones y servicios favoritos del usuario. Sin embargo, para que Muse funcione, los usuarios deben otorgarle acceso a sus cuentas, lo que incluye autenticar el asistente en cada servicio y concederle permisos amplios en el sistema operativo macOS.
La vulnerabilidad permite que cualquier aplicación o comando ejecutado en el terminal acceda al token que autentica a los usuarios en su cuenta de Muse. Esto significa que un atacante podría cambiar el punto final donde ocurre la transcripción de datos, redirigiéndolo a un servidor controlado por ellos, lo que les otorgaría control total sobre la cuenta de Muse.
Patrick Wardle, experto en seguridad de macOS, quien descubrió la vulnerabilidad, ha desarrollado varios ataques de prueba de concepto que pueden escribir archivos maliciosos y tomar fotografías sin que el usuario lo note. A pesar de los esfuerzos de Meta por asegurar la privacidad y seguridad de Muse, esta situación plantea serias dudas sobre la efectividad de sus medidas de protección.
Meta ha publicado varias entradas en su blog en las últimas semanas, defendiendo las decisiones de diseño tomadas para asegurar un asistente con acceso tan amplio a los datos y recursos del usuario. Sin embargo, la comunidad de seguridad está cada vez más preocupada por las implicaciones de tales vulnerabilidades en el desarrollo de inteligencia artificial y la necesidad de un enfoque más cauteloso en su implementación.
Comentarios