Structured outputs y tool calling: tu vLLM deja de devolver prosa
Capítulo 01 // 4 min
Guía5/5 capítulos
vLLM: del hello world a producción
Cinco capítulos para llevar tu vLLM a producción: structured outputs y tool calling, cuantización, speculative decoding, KV offloading y multi-GPU.
Guía: lista cerrada sobre un tema, de principio a fin.
Actualizado:
Progreso100%
La segunda parte de vLLM desde cero. Tu servidor ya funciona: ahora hablamos JSON con garantías, cabe en la GPU que puedes pagar, responde más rápido y sobrevive a tus agentes en producción. Cinco capítulos, números medidos en cada uno.
Cuantización en vLLM: FP8, INT4 y NVFP4 sin perder el plot
Capítulo 02 // 4 min
Speculative decoding: baja tu TPOT con MTP y EAGLE-3
Capítulo 03 // 3 min
KV cache que no cabe: offloading en vLLM, del archivo al objeto
Capítulo 04 // 3 min
Cuando una GPU no basta: multi-GPU y P/D disaggregation
Capítulo 05 // 5 min