La elección del modelo se decide con cinco criterios: dónde puede procesarse el dato, cuánto razonamiento exige la tarea, cuánto contexto necesita leer, qué latencia tolera el proceso y cuánto cuesta cada operación. Casi nunca hay un único ganador: lo eficiente es asignar un modelo distinto a cada fase del proceso.
1. Privacidad: dónde puede procesarse el dato
Es el primer filtro y descarta opciones antes que cualquier otro. Si el contenido incluye datos personales sensibles, información contractual o propiedad industrial, la conversación empieza por si puede salir de tu infraestructura. Lo desarrollamos en modelos locales frente a modelos en la nube y en soberanía del dato.
2. Dificultad real de la tarea
- Mecánica (clasificar, extraer campos, normalizar): un modelo pequeño o local basta y cuesta una fracción.
- Intermedia (redactar respuestas, resumir con criterio): modelo medio.
- Compleja (interpretar un pliego, razonar sobre excepciones, decidir entre alternativas): modelo grande de última generación.
El error caro es usar el modelo más potente para todo: multiplica la factura sin mejorar el resultado en las tareas fáciles.
3. Contexto: cuánto tiene que leer de una vez
Procesar un pliego de 400 páginas o un histórico de conversación largo exige ventana de contexto amplia. Pero ampliar contexto no siempre es la solución: recuperar solo los fragmentos relevantes con RAG suele dar mejor resultado y mucho menos coste.
4. Latencia
Un agente que responde a un cliente en directo necesita segundos; uno que concilia facturas por la noche puede tardar minutos. La latencia tolerada abre o cierra opciones —y permite usar modelos más baratos en lo que corre en diferido.
5. Coste por operación, no por token
El precio por token dice poco. Lo que importa es el coste por operación completa: cuántas llamadas hace el agente, cuánto contexto arrastra y cuántos reintentos necesita. Un modelo aparentemente caro que acierta a la primera puede salir más barato que uno económico que requiere tres pasadas y revisión humana.
La ventaja de no casarse con un proveedor
Gracias a MCP, las integraciones no dependen del modelo: podemos usar Claude, GPT, Gemini o un modelo local como Llama en Ollama, y cambiarlos por fase o cuando salga una versión mejor, sin rehacer los conectores. En la práctica revisamos esta asignación cada pocos meses, porque la relación calidad/precio del mercado se mueve muy rápido.