Dinero
La IA está en deflación: pagar de más es ya una elección
El coste de la inteligencia artificial por token cae en picado cada año. Tres técnicas —elegir modelo por tarea, caché y lotes— recortan la factura hasta un 90 %.
Andreessen Horowitz le puso nombre: “LLMflation”. El coste de obtener un mismo nivel de capacidad de un modelo de lenguaje se divide aproximadamente entre 10 cada año. Lo que en 2023 costaba 60 dólares por millón de tokens hoy cuesta céntimos con modelos equivalentes o mejores.
La consecuencia práctica: si tu factura de IA no baja, estás pagando de más por decisión propia. Tres palancas, por orden de impacto:
1. Modelo por tarea, no por costumbre
El error más caro es usar el modelo más potente para todo. Clasificar un correo, extraer un dato o resumir un texto no necesita el modelo insignia: los modelos pequeños actuales (tipo Haiku, Gemini Flash o GPT mini) superan a los grandes de hace un año y cuestan 10–30 veces menos. Reserva el modelo grande para razonamiento complejo y usa el pequeño como caballo de tiro.
2. Caché de prompts
Si cada petición repite el mismo contexto —instrucciones de sistema, documentación, ejemplos—, estás pagando por procesar lo mismo mil veces. El prompt caching de las APIs principales cobra el contenido cacheado con descuentos de hasta el 90 %. Requiere solo estructurar las peticiones con la parte fija al principio.
3. Procesamiento por lotes
Todo lo que no necesite respuesta inmediata —informes nocturnos, etiquetado masivo, análisis periódicos— puede ir por la API de lotes (batch), con un 50 % de descuento estándar por aceptar respuesta en horas en lugar de segundos.
Los números
Un flujo típico mal optimizado (modelo grande, sin caché, todo en tiempo real) frente al mismo flujo optimizado: la combinación de las tres técnicas multiplica el ahorro. No es raro pasar de cientos de euros al mes a decenas, con la misma calidad de resultado donde importa.
La lectura de Optimizzate
En un mercado en deflación, la optimización no es exprimir céntimos: es revisar precios cada pocos meses. La configuración óptima de enero está obsoleta en junio. Pon un recordatorio trimestral: media hora de revisión de modelos y precios se paga sola.