Seoul Gazette - Tras el boom inicial, la IA se encarece y las empresas ajustan su uso

Tras la irrupción del ChatGPT, las empresas del sector adoptaron una estrategia habitual en Silicon Valley: cobrar precios muy bajos para enganchar a los clientes.

Kevin Simback, de la incubadora de start-ups Delphi Labs, lo llama la era de la "inteligencia subvencionada", una etapa en que los inversionistas asumían básicamente el costo para que las empresas pudieran ofrecer IA a precios reducidos.

"Pero eso está cambiando", advirtió Simback.

Ha comenzado una era en la que las grandes empresas de IA necesitan realmente ser rentables. De hecho, compañías líderes como OpenAI y Anthropic buscan salir a bolsa a finales de este año.

Los precios están subiendo en todos los segmentos, y uno de los grandes motivos son los agentes de IA.

A diferencia de un chatbot que solo responde preguntas, los agentes realizan tareas específicas: reservan citas, escriben código o gestionan archivos. Y son caros de ejecutar, porque una única tarea puede activar a decenas de agentes que trabajan a la vez, y cada uno suma costos.

Esos cargos se miden en "tokens", la unidad básica que usan las empresas de IA para facturar a los clientes. Una sola tarea impulsada por agentes puede consumir decenas de veces más tokens que un simple mensaje de chat.

Mientras tanto, los chips informáticos y los centros de datos necesarios para respaldar toda esta IA no dan abasto con la demanda, lo que provoca escasez de capacidad de cómputo y añade aún más incertidumbre a un sector incipiente.

"El costo de uso de la IA para la programación ha aumentado de forma exponencial", señaló Mark Barton, de la consultora tecnológica Omniux.

Ante este nuevo paradigma, algunos cuestionan el despliegue a mansalva de la IA.

"En algunos casos, se está viendo que el coste de los tokens supera el coste del empleado en uno o dos meses, simplemente porque la usan demasiado", señaló Jack Gold, analista de J.Gold Associates.

- Un gasto más inteligente -

Incluso Meta —que a principios de este año animaba a los empleados a usar tantos tokens como fuera posible como medida de productividad— ha revisado su postura.

"Nadie debería usar herramientas de IA solo por el hecho de usarlas", escribió el director de tecnología, Andrew Bosworth, en un memorando al personal citado por The Wall Street Journal.

El director de operaciones de Uber fue más allá esta semana y dijo que todo este gasto en IA no muestra ningún aumento apreciable de productividad.

Para recortar costos, algunas empresas optan por modelos de IA gratuitos y de código abierto que cualquiera puede descargar. No son tan potentes como el ChatGPt de OpenAI o el Claude de Anthropic, pero son suficientes para muchas tareas.

Otras eligen modelos más pequeños y especializados (los SLM, Small Language Models), diseñados para sectores concretos como el inmobiliario o las finanzas, en lugar de los grandes modelos de propósito general (los LLM, Large Language Models), base del ChatGPT, Claude o Gemini.

La diferencia de precio puede ser abismal.

"El gran modelo monolítico cuesta 15 dólares por millón de tokens, pero uno puede reducirlo a unos cinco centavos si usa el modelo más pequeño", explicó Adrian Balfour, de la consultora Enverso.

Todo apunta a que la IA tenderá a convertirse en un insumo básico, donde el modelo específico pesará menos que su costo y su adecuación a cada uso.

Pero no conviene descartar todavía a los modelos de última generación de los grandes actores.

"Los usuarios más avanzados" siempre estarán dispuestos a pagar por lo mejor, aseguró John Belton, de Gabelli Funds.

"La tarta es cada vez más grande", agregó.

T.Jeon--SG