SGLang
SGLang es un framework de codigo abierto disenado para servir modelos de lenguaje grandes (LLMs) de manera eficiente. Permite ejecutar LLMs localmente en tu ordenador con una optimizacion excepcional para inferencia, reduciendo drasticamente los requisitos de…