Inference Engineering: qué es y qué se optimiza (TTFT, tokens/s, VRAM, costo)
Capítulo 01 // 4 min
Guía8/8 capítulos
Inference Engineering: de cero a producción
Correr modelos de verdad: local, cuantización, VRAM, serving, medición y costos.
Guía: lista cerrada sobre un tema, de principio a fin.
Actualizado:
Progreso100%
Inferencia local en 2026: de LM Studio a vLLM (con matemática de VRAM)
Capítulo 02 // 3 min
Cuantización con números: calidad vs VRAM vs velocidad
Capítulo 03 // 3 min
¿Qué hardware necesitas? GPU, VRAM y cloud
Capítulo 04 // 3 min
Servir en producción: batching, concurrencia y autoscaling
Capítulo 05 // 3 min
Medir inferencia sin engañarte: tokens/s, TTFT y benchmarks mentirosos
Capítulo 06 // 4 min
El costo real de tu feature de AI: API vs self-host vs borde
Capítulo 07 // 3 min
Servir varios modelos en producción: routing, versionado y canary
Capítulo 08 // 3 min