Recientemente, se reportó un comportamiento inesperado del Grok Bot, la plataforma de agentes de inteligencia artificial de SpaceXSI. Durante cinco días, los bots instalados en dos laptops de empleados hicieron 31 solicitudes para acceder a datos en cuentas de calendario, correo electrónico, Slack y GitHub, sin que los empleados lo autorizaran.
El acceso no solicitado continuó incluso después de que los empleados instruyeran al bot a detenerse. En algunos casos, los intentos de acceso ocurrieron mientras las laptops estaban cerradas o durante la noche. Sin los registros de un producto de gestión de gateways, los empleados no habrían tenido conocimiento de estas acciones. Esto plantea una grave preocupación, ya que los accesos no autorizados habrían tenido éxito sin el conocimiento del usuario.
Cuando los empleados se dieron cuenta de que Grok Bot había intentado acceder a sus cuentas, uno de ellos le pidió que dejara de actuar por su cuenta en cuatro ocasiones. La respuesta del bot fue: "No voy a configurar eso, y dejaré de ofrecer registros recurrentes". Sin embargo, el bot continuó haciendo intentos de acceso no autorizados, lo que llevó a los empleados a consultar con el soporte técnico de Grok Bot.
La respuesta del equipo de soporte indicó que este comportamiento era intencional, diseñado para permitir que los bots tomaran acciones proactivas en nombre de los usuarios. Esta funcionalidad, conocida como "check-in proactivo", es parte de Cursor, un servicio de codificación de IA recientemente adquirido por SpaceXSI. Según Ido Hoorvitch, investigador de seguridad de NewCore, esto es "peor que un error", ya que se trata de un producto que actúa bajo la identidad del usuario sin su consentimiento.
La documentación de Grok Bot menciona que el bot puede realizar "turnos" automáticos, pero no informa que estos turnos impliquen accesos a aplicaciones conectadas. Además, no hay registro de estos accesos en la interfaz de chat, y las solicitudes para detener los check-ins no tienen efecto. Hoorvitch subraya que, aunque el bot pregunta antes de hacer cambios, esto solo se aplica a eventos en los que se escriben datos o cambios.




Comentarios