Folzo/Effi
Public Access
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

docs: add audio TTS/STT research and GPU optimization documentation

Browse Source 
- Add docs/audio/tts-research.md with Voxtral TTS, Kokoro-FastAPI, openedai-speech comparison
- Add docs/audio/stt-research.md with Voxtral STT, faster-whisper options
- Add docs/gpu/optimization.md with OLLAMA_KEEP_ALIVE and VRAM management
- Add docs/README.md with architecture overview
- Add index files for docs navigation

Research conducted April 2026 for future audio improvements
This commit is contained in:
Folzo
2026-04-08 12:50:57 +02:00
parent 33f22343a3
commit b93148c511
6 changed files with 673 additions and 0 deletions
Download Patch File Download Diff File Expand all files Collapse all files
docs/README.md
+102
View File
@@ -0,0 +1,102 @@
# Documentation Audio & GPU - Effi
Documentation technique pour les composants audio (TTS/STT) et l'optimisation GPU.
## 📚 Contenu
### Audio
- [TTS Research](audio/tts-research.md) - Recherche sur les solutions Text-to-Speech
- [STT Research](audio/stt-research.md) - Recherche sur les solutions Speech-to-Text
### GPU
- [GPU Optimization](gpu/optimization.md) - Optimisation VRAM et Ollama
---
## 🗺️ Architecture Audio Actuelle
```
┌─────────────────────────────────────────────────────────────┐
│ Fedora (192.168.1.11) │
│ │
│ ┌─────────────┐ ┌─────────────────────────────────┐ │
│ │ Ollama │ │ effi-stt (STT) │ │
│ │ qwen3.5 │ │ faster-whisper large-v3 │ │
│ │ (Q4_K_M) │ │ Port: 8200 │ │
│ │ Port: 11434 │ └─────────────────────────────────┘ │
│ └─────────────┘ │
└─────────────────────────────────────────────────────────────┘
│
▼
┌─────────────────────────────────────────────────────────────┐
│ Effi-Serveur (192.168.1.27) │
│ │
│ ┌─────────────┐ ┌─────────────┐ ┌──────────────┐ │
│ │ OpenWebUI │ │ WoL Proxy │ │ Whisper │ │
│ │ Port: 3000 │───▶│ Port: 3011 │───▶│ (unused) │ │
│ └─────────────┘ └─────────────┘ └──────────────┘ │
│ │
│ ┌─────────────────────────────────────────────────────┐ │
│ │ openedai-speech (TTS) │ │
│ │ Piper + XTTS v2, Port: 8100 │ │
│ │ ⚠️ ARCHIVED - pas de mises à jour │ │
│ └─────────────────────────────────────────────────────┘ │
└─────────────────────────────────────────────────────────────┘
│
▼
┌─────────────────────────────────────────────────────────────┐
│ Synology (192.168.1.25) │
│ │
│ Services planning: │
│ - Beszel Hub: 8090 (monitoring) │
│ - Dozzle: 8888 (logs Docker) │
└─────────────────────────────────────────────────────────────┘
```
---
## 📊 Résumé des Services
| Service | Port | Status | Notes |
|---------|------|--------|-------|
| Ollama | 11434 | ✅ Actif | qwen3.5:latest |
| effi-stt | 8200 | ✅ Actif | faster-whisper large-v3 |
| openedai-speech | 8100 | ⚠️ Archivé | XTTS v2 |
| OpenWebUI | 3000 | ✅ Actif | Ubuntu |
| WoL Proxy | 3011 | ✅ Actif | Ubuntu |
---
## 🔮 Améliorations Futures
### TTS (Text-to-Speech)
1. **Voxtral TTS** (priorité haute)
- Surveillance: vLLM-Omni supporter quantization
- Requiert: 16GB VRAM (BF16) ou solution Q4
2. **Kokoro-FastAPI** (si Voxtral indisponible)
- Léger (~2-4GB VRAM)
- Voix française limitée (`ff_swis` Grade B-)
### STT (Speech-to-Text)
1. **Voxtral STT** (surveillance)
- OpenWebUI support natif (API Mistral)
- Option cloud ou local si VRAM disponible
### Monitoring
1. **Beszel** - Surveillance CPU/RAM/GPU
2. **Dozzle** - Logs Docker temps réel
---
## 🔗 Liens Utiles
- [Gitea Effi](https://gitea.folzocorp.fr/Folzo/effi)
- [OpenWebUI Docs](https://docs.openwebui.com/)
- [vLLM-Omni](https://github.com/vllm-project/vllm-omni)
- [Kokoro-FastAPI](https://github.com/remsky/Kokoro-FastAPI)
- [Mistral Voxtral](https://mistral.ai/news/voxtral-tts)
---
*Dernière mise à jour: Avril 2026*