Folzo
fcad41521e
- jean-router interroge /api/presets pour lister dynamiquement les presets Jean
- Support Ollama via /api/tags pour les modèles vision
- Switch automatique de preset quand nécessaire
- Expose /v1/models avec tous les modèles disponibles
- Route les requêtes vers Jean ou Ollama selon le modèle demandé
- Nouveaux presets Jean automatiquement visibles dans OpenWebUI
Architecture:
open-webui → LiteLLM:4000 → jean-router:3014
├→ jean-proxy:3012 → Jean (.11:8080)
└→ wol-proxy:3011 → Ollama (.11:11434)
27 lines
970 B
YAML
27 lines
970 B
YAML
# ═══════════════════════════════════════════════════════════
|
|
# LiteLLM Proxy — Routing pour Effi via jean-router
|
|
# Endpoint OpenAI-compatible sur :4000 (host network)
|
|
#
|
|
# jean-router (:3014) gère dynamiquement :
|
|
# - Liste des presets Jean (avec switch automatique)
|
|
# - Liste des modèles Ollama
|
|
# - Routing vers le bon backend
|
|
#
|
|
# LiteLLM sert uniquement de proxy OpenAI unifié pour OpenWebUI.
|
|
# ═══════════════════════════════════════════════════════════
|
|
|
|
model_list:
|
|
- model_name: jean
|
|
litellm_params:
|
|
model: openai/*
|
|
api_base: http://localhost:3014/v1
|
|
api_key: "null"
|
|
timeout: 600
|
|
|
|
litellm_settings:
|
|
drop_params: false
|
|
telemetry: false
|
|
|
|
general_settings:
|
|
master_key: sk-effi-litellm-master
|