refactor: remove LiteLLM, jean-router handles all routing

This commit is contained in:
Folzo
2026-07-20 10:22:15 +02:00
parent 43aacc077d
commit 856ba4ae36
2 changed files with 6 additions and 51 deletions
+6 -25
View File
@@ -1,16 +1,14 @@
# ═══════════════════════════════════════════════════════════
# OVERRIDE litellm — Ajoute LiteLLM + jean-proxy a la stack Effi
# + configure open-webui pour parler a LiteLLM en mode OpenAI API
# OVERRIDE jean-router — Routing dynamique Jean + Ollama
#
# Usage (depuis /home/effi/effi sur serveur Effi) :
# docker compose -f docker-compose.yml -f docker-compose.litellm.yml up -d --build
#
# IMPORTANT : cet override modifie open-webui (ajoute OPENAI_API_BASE_URL +
# OPENAI_API_KEY + remet OLLAMA_BASE_URL sur le wol-proxy originel :3011).
# open-webui sera recree a la prochaine 'up --force-recreate' pour propager.
# LiteLLM expose l'API OpenAI (/v1/*), pas l'API Ollama (/api/*) — donc
# open-webui DOIT etre configure via la section "OpenAI API" (admin UI)
# et non via la section "Ollama".
# jean-router remplace LiteLLM :
# - Interroge dynamiquement Jean pour lister les presets
# - Route vers Jean ou Ollama selon le modèle demandé
# - Switch automatique de preset quand nécessaire
# - Nouveaux presets Jean automatiquement visibles dans OpenWebUI
# ═══════════════════════════════════════════════════════════
services:
@@ -69,20 +67,3 @@ services:
- LISTEN_PORT=3014
- SWITCH_TIMEOUT=90
- CHECK_INTERVAL=2
# ─────────────────────────────────────────────────────────
# 2. LiteLLM proxy — Endpoint OpenAI unique pour open-webui
# Ecoute :4000 sur le host (network_mode: host pour joindre
# wol-proxy :3011 et jean-proxy :3012 sur le host)
# ─────────────────────────────────────────────────────────
litellm:
image: ghcr.io/berriai/litellm:main-stable
container_name: litellm
restart: unless-stopped
network_mode: host
volumes:
- ./litellm/config.yaml:/app/config.yaml:ro
command:
- "--config=/app/config.yaml"
- "--port=4000"
- "--num_workers=1"