feat: jean-router — routing dynamique Jean + Ollama
- jean-router interroge /api/presets pour lister dynamiquement les presets Jean
- Support Ollama via /api/tags pour les modèles vision
- Switch automatique de preset quand nécessaire
- Expose /v1/models avec tous les modèles disponibles
- Route les requêtes vers Jean ou Ollama selon le modèle demandé
- Nouveaux presets Jean automatiquement visibles dans OpenWebUI
Architecture:
open-webui → LiteLLM:4000 → jean-router:3014
├→ jean-proxy:3012 → Jean (.11:8080)
└→ wol-proxy:3011 → Ollama (.11:11434)
This commit is contained in:
@@ -7,8 +7,8 @@ RUN pip install --no-cache-dir flask requests
|
||||
|
||||
COPY app.py .
|
||||
|
||||
ENV LISTEN_PORT=3010
|
||||
EXPOSE 3010
|
||||
ENV LISTEN_PORT=3012
|
||||
EXPOSE 3012
|
||||
|
||||
CMD ["python", "app.py"]
|
||||
|
||||
|
||||
Reference in New Issue
Block a user