Término
Coste por token
Precio que se paga al proveedor del modelo por unidad de texto.
Los modelos se facturan por tokens (aproximadamente 0,75 palabras). Hay dos precios: input (lo que se envía) y output (lo que se genera). Un agente eficiente monitorea el coste por tarea y elige el modelo más barato que cumpla con la calidad requerida. En ACEM reportamos coste por tarea como métrica operativa.
Relacionados