Folzo
0fad1d7249
- Research 8 different memory solutions (mem0, LangChain, LlamaIndex, etc.) - Document 5 levels of AI memory - Explain why mem0 was abandoned (5-10s latency) - Current state: manual snippets via OpenWebUI - Future technologies: MemGPT, memory-augmented LLMs, knowledge graphs - Recommendations for Effi short/mid/long term
111 lines
5.6 KiB
Markdown
111 lines
5.6 KiB
Markdown
# Documentation Audio & GPU - Effi
|
|
|
|
Documentation technique pour les composants audio (TTS/STT) et l'optimisation GPU.
|
|
|
|
## 📚 Contenu
|
|
|
|
### Audio
|
|
- [TTS Research](audio/tts-research.md) - Recherche sur les solutions Text-to-Speech
|
|
- [STT Research](audio/stt-research.md) - Recherche sur les solutions Speech-to-Text
|
|
|
|
### GPU
|
|
- [GPU Optimization](gpu/optimization.md) - Optimisation VRAM et Ollama
|
|
|
|
### Memory
|
|
- [Memory Research](memory-research.md) - Comparatif des solutions de mémoire IA locales
|
|
|
|
---
|
|
|
|
## 🗺️ Architecture Audio Actuelle
|
|
|
|
```
|
|
┌─────────────────────────────────────────────────────────────┐
|
|
│ Fedora (192.168.1.11) │
|
|
│ │
|
|
│ ┌─────────────┐ ┌─────────────────────────────────┐ │
|
|
│ │ Ollama │ │ effi-stt (STT) │ │
|
|
│ │ qwen3.5 │ │ faster-whisper large-v3 │ │
|
|
│ │ (Q4_K_M) │ │ Port: 8200 │ │
|
|
│ │ Port: 11434 │ └─────────────────────────────────┘ │
|
|
│ └─────────────┘ │
|
|
└─────────────────────────────────────────────────────────────┘
|
|
│
|
|
▼
|
|
┌─────────────────────────────────────────────────────────────┐
|
|
│ Effi-Serveur (192.168.1.27) │
|
|
│ │
|
|
│ ┌─────────────┐ ┌─────────────┐ ┌──────────────┐ │
|
|
│ │ OpenWebUI │ │ WoL Proxy │ │ Whisper │ │
|
|
│ │ Port: 3000 │───▶│ Port: 3011 │───▶│ (unused) │ │
|
|
│ └─────────────┘ └─────────────┘ └──────────────┘ │
|
|
│ │
|
|
│ ┌─────────────────────────────────────────────────────┐ │
|
|
│ │ openedai-speech (TTS) │ │
|
|
│ │ Piper + XTTS v2, Port: 8100 │ │
|
|
│ │ ⚠️ ARCHIVED - pas de mises à jour │ │
|
|
│ └─────────────────────────────────────────────────────┘ │
|
|
└─────────────────────────────────────────────────────────────┘
|
|
│
|
|
▼
|
|
┌─────────────────────────────────────────────────────────────┐
|
|
│ Synology (192.168.1.25) │
|
|
│ │
|
|
│ Services planning: │
|
|
│ - Beszel Hub: 8090 (monitoring) │
|
|
│ - Dozzle: 8888 (logs Docker) │
|
|
└─────────────────────────────────────────────────────────────┘
|
|
```
|
|
|
|
---
|
|
|
|
## 📊 Résumé des Services
|
|
|
|
| Service | Port | Status | Notes |
|
|
|---------|------|--------|-------|
|
|
| Ollama | 11434 | ✅ Actif | qwen3.5:latest |
|
|
| effi-stt | 8200 | ✅ Actif | faster-whisper large-v3 |
|
|
| openedai-speech | 8100 | ⚠️ Archivé | XTTS v2 |
|
|
| OpenWebUI | 3000 | ✅ Actif | Ubuntu |
|
|
| WoL Proxy | 3011 | ✅ Actif | Ubuntu |
|
|
|
|
---
|
|
|
|
## 🔮 Améliorations Futures
|
|
|
|
### TTS (Text-to-Speech)
|
|
1. **Voxtral TTS** (priorité haute)
|
|
- Surveillance: vLLM-Omni supporter quantization
|
|
- Requiert: 16GB VRAM (BF16) ou solution Q4
|
|
|
|
2. **Kokoro-FastAPI** (si Voxtral indisponible)
|
|
- Léger (~2-4GB VRAM)
|
|
- Voix française limitée (`ff_swis` Grade B-)
|
|
|
|
### STT (Speech-to-Text)
|
|
1. **Voxtral STT** (surveillance)
|
|
- OpenWebUI support natif (API Mistral)
|
|
- Option cloud ou local si VRAM disponible
|
|
|
|
### Monitoring
|
|
1. **Beszel** - Surveillance CPU/RAM/GPU
|
|
2. **Dozzle** - Logs Docker temps réel
|
|
|
|
### Memory (Mémoire IA)
|
|
1. **État actuel**: Mémoire manuelle via snippets OpenWebUI
|
|
2. **Mem0 abandonné**: Trop lent (5-10s/requête)
|
|
3. **Futur**: Améliorer RAG avec Qdrant, surveiller MemGPT
|
|
|
|
---
|
|
|
|
## 🔗 Liens Utiles
|
|
|
|
- [Gitea Effi](https://gitea.folzocorp.fr/Folzo/effi)
|
|
- [OpenWebUI Docs](https://docs.openwebui.com/)
|
|
- [vLLM-Omni](https://github.com/vllm-project/vllm-omni)
|
|
- [Kokoro-FastAPI](https://github.com/remsky/Kokoro-FastAPI)
|
|
- [Mistral Voxtral](https://mistral.ai/news/voxtral-tts)
|
|
|
|
---
|
|
|
|
*Dernière mise à jour: Avril 2026*
|