LiteLLM
SDK de Python de código abierto y AI Gateway que proporciona una interfaz unificada compatible con OpenAI para más de 100 APIs de LLM con controles de presupuesto, seguimiento de costos y balanceo de carga.
LiteLLM se ha convertido en el estándar de facto de la capa proxy de LLM, utilizado por Netflix y otros adoptantes a gran escala para unificar el acceso entre proveedores. Su enrutamiento basado en el presupuesto puede cambiar automáticamente a modelos más económicos cuando se alcanzan los umbrales de gasto, aplicando límites de Token Budget a nivel de clave, usuario y equipo. Esto lo convierte en una solución ideal para sistemas agénticos donde múltiples agentes consumen tokens de forma independiente y la gobernanza de costos requiere controles granulares. El núcleo con licencia MIT es gratuito para el autohospedaje, con un nivel Enterprise de $30,000 al año para funciones avanzadas.