Folzo 7a8dc34212 feat(litellm): 3 profils Qwen3.6 (reason/fast/default) via toggle enable_thinking ...

Contrainte VRAM: RX 7800 XT 16Go ne peut pas co-heberger Qwen3.6-27B
(14.6 Go) + llama3.1-8b (5 Go). Ollama commente, on expose 3 profils
du meme modele Qwen3.6 via le toggle chat_template_kwargs.enable_thinking:
  - qwen3.6-reason / qwen3.6-27b : raisonnement ON (taches complexes)
  - qwen3.6-fast / qwen3.6       : raisonnement OFF (chat rapide ~400ms TTFT)
drop_params=false pour passer chat_template_kwargs a Jean.
Teste en prod: qwen3.6-fast repond BONJOUR en 400ms, MTP 3/3 acceptes.

2026-06-27 16:40:24 +02:00

..

config.yaml

feat(litellm): 3 profils Qwen3.6 (reason/fast/default) via toggle enable_thinking

2026-06-27 16:40:24 +02:00