feat: jean-router — routing dynamique Jean + Ollama
- jean-router interroge /api/presets pour lister dynamiquement les presets Jean
- Support Ollama via /api/tags pour les modèles vision
- Switch automatique de preset quand nécessaire
- Expose /v1/models avec tous les modèles disponibles
- Route les requêtes vers Jean ou Ollama selon le modèle demandé
- Nouveaux presets Jean automatiquement visibles dans OpenWebUI
Architecture:
open-webui → LiteLLM:4000 → jean-router:3014
├→ jean-proxy:3012 → Jean (.11:8080)
└→ wol-proxy:3011 → Ollama (.11:11434)
This commit is contained in:
@@ -48,6 +48,29 @@ services:
|
||||
- BROADCAST_IP=${BROADCAST_IP}
|
||||
- HEALTH_PATH=/health
|
||||
|
||||
# ─────────────────────────────────────────────────────────
|
||||
# jean-router — Proxy dynamique qui interroge Jean pour
|
||||
# lister les presets et route les requêtes vers Jean
|
||||
# ou Ollama selon le modèle demandé.
|
||||
# Ecoute :3014 sur le host (network_mode: host)
|
||||
# ─────────────────────────────────────────────────────────
|
||||
jean-router:
|
||||
build: ./jean-router
|
||||
container_name: jean-router
|
||||
restart: unless-stopped
|
||||
network_mode: host
|
||||
environment:
|
||||
- JEAN_WEB_HOST=${OLLAMA_HOST}
|
||||
- JEAN_WEB_PORT=8090
|
||||
- JEAN_PROXY_HOST=localhost
|
||||
- JEAN_PROXY_PORT=3012
|
||||
- OLLAMA_PROXY_HOST=localhost
|
||||
- OLLAMA_PROXY_PORT=3011
|
||||
- ENABLE_OLLAMA=true
|
||||
- LISTEN_PORT=3014
|
||||
- SWITCH_TIMEOUT=90
|
||||
- CHECK_INTERVAL=2
|
||||
|
||||
# ─────────────────────────────────────────────────────────
|
||||
# 2. LiteLLM proxy — Endpoint OpenAI unique pour open-webui
|
||||
# Ecoute :4000 sur le host (network_mode: host pour joindre
|
||||
|
||||
Reference in New Issue
Block a user