Aumento en el uso de tokens de IA genera preocupación en empresas
Negocio

Aumento en el uso de tokens de IA genera preocupación en empresas

El uso de tokens de IA ha crecido exponencialmente en empresas como 8x8, que ahorró $5 millones en costos anuales. Sin embargo, la gestión de estos costos se ha vuelto un tema crítico en la industria tecnológica.

16 de junio 20262 min de lectura Wired
0 comentarios

El uso de inteligencia artificial (IA) en empresas ha alcanzado niveles inesperados, con 8x8 reportando un ahorro de aproximadamente $5 millones en costos anuales al cancelar suscripciones a herramientas de software gracias a la implementación de Claude, un chatbot de Anthropic. A pesar de la creciente dependencia de estas herramientas, la compañía se encuentra en una posición financiera favorable, con su factura anual por el uso de Claude significativamente por debajo de los ahorros obtenidos.

Mientras tanto, otras empresas de Silicon Valley, como Meta y Uber, han comenzado a expresar preocupaciones sobre los costos crecientes de las herramientas de IA generativa, implementando límites de uso en algunos casos. En contraste, 8x8 ha decidido fomentar el uso de IA entre sus empleados, lo que podría equilibrar eventualmente los costos y ahorros, según Joel Neeb, su director de transformación y operaciones comerciales.

La preocupación por el uso de tokens, que representan la cantidad de contenido que un modelo de IA analiza y genera, ha llevado a un nuevo enfoque en la industria: la "tokenomics". Recientemente, el CEO del Royal Bank of Canada reveló que su uso de tokens aumentó un 500% en los últimos seis meses. En Cisco, un tercio de los empleados utiliza un chatbot interno de IA a diario, lo que ha llevado a que su CEO, Chuck Robbins, califique la situación de "bastante loca".

La presión sobre los costos de los tokens ha llevado a muchas empresas a buscar sistemas que les ayuden a monitorear su uso y elegir el modelo más económico para cada solicitud. En abril, la marca de ropa Baseball Lifestyle 101 instó a sus gerentes a gastar el equivalente al 20% de su salario mensual en tokens de IA, anticipando que los costos superarán los $100,000 al final del año, pero ya están viendo resultados positivos.

La fluctuación de precios y la rápida evolución de los modelos de IA presentan desafíos únicos para las empresas. A medida que los beneficios de productividad impulsados por la IA se vuelven evidentes en algunos equipos, pueden surgir cuellos de botella en otros, complicando la adopción generalizada de estas tecnologías. La gestión efectiva de los costos de IA se ha convertido en una prioridad crítica para los líderes empresariales en la actualidad.

Comentarios