Effi/docs/SESSION-2026-04-12-RAM-BESZEL.md

Journal de Session - 12 Avril 2026

Objet: Optimisation RAM FolzoCorp + Installation Beszel

---

1. Problème Initial

Symptôme: RAM FolzoCorp à 30GB utilisée, jamais libérée

Inventaire RAM (avant):

Process	RSS	%
ComfyUI	15.2 GB	48.7%
kreuzberg	1 GB	3.1%
effi-stt	13 MB	0.04%

Cause: ComfyUI charge les modèles en RAM (pas juste VRAM) et ne les décharge jamais.

---

2. Solutions Implémentées

A. effi-stt - Déchargement Whisper après inactivité

Fichier: effi-stt/main.py

Modifications:

• Timer d'inactivité (défaut: 300s)
• Le modèle Whisper est chargé à la première requête
• Après 300s d'inactivité, le modèle est déchargé
• gc.collect() libère la mémoire

Nouveaux endpoints:

• POST /unload - déchargement manuel
• POST /reload - rechargement manuel
• GET /stats - statistiques (model_loaded, last_request_age)

Variables d'environnement:

• INACTIVITY_TIMEOUT=300 (secondes)

---

B. ComfyUI - Redémarrage container après inactivité

Fichier: scripts/comfyui-memory-manager.py

Fonctionnement:

• Vérifie VRAM, queue, et history toutes les 60s
• Après 600s (10 min) d'inactivité + VRAM < 1% + RAM > 5GB
• Redémarre le container ComfyUI pour libérer la RAM

Service systemd: systemd/comfyui-memory-manager.service

---

C. Kreuzberg - Restart après inactivité

Fichier: scripts/kreuzberg-memory-manager.py

Fonctionnement:

• Vérifie la mémoire container toutes les 60s
• Si > 2GB pendant > 10min d'inactivité:
  • Redémarre le container kreuzberg

Note: Kreuzberg est un binaire Rust pré-compilé, donc un restart container est nécessaire pour libérer la mémoire.

---

D. Beszel - Monitoring Infrastructure

Architecture:

NAS Synology (192.168.1.25) - Hub Beszel (port 8090)
├── Agent FolzoCorp (192.168.1.11) - GPU AMD RX 7800 XT
└── Agent EffiServer (192.168.1.27) - Intel J5040

Emplacements:

Système	Emplacement
Synology NAS	/volume1/docker/beszel
FolzoCorp	/home/folzo/Documents/OpenCode/Projets/Effi/beszel
EffiServer	/home/effi/effi/beszel

Monitoring GPU:

• FolzoCorp: amd_sysfs collector (AMD RX 7800 XT)
• EffiServer: SKIP_GPU=true (pas de GPU)

---

E. Client API Beszel pour Effi

Fichier: scripts/beszel_client.py

Utilisation:

export BESZEL_URL=http://192.168.1.25:8090
export BESZEL_USER=admin
export BESZEL_PASSWORD=xxx

python3 scripts/beszel_client.py --list-systems
python3 scripts/beszel_client.py --system folzocorp --check stats
python3 scripts/beszel_client.py --system folzocorp --check alerts

---

F. Service Beszel Wake - Redémarrage après veille

Fichier: systemd/beszel-agent-wake.service

Fonctionnement:

• Redémarre le container beszel-agent à chaque sortie de veille
• Asegure que Beszel envoie les données dès que le PC est allumé

---

3. Services systemd Installés

Service	Description	Status
comfyui-memory-manager	Redémarre ComfyUI après inactivité	✅ Actif
beszel-agent-wake	Redémarre Beszel au réveil	✅ Actif

Commandes:

# Statut
sudo systemctl status comfyui-memory-manager
sudo systemctl status beszel-agent-wake

# Logs
journalctl -u comfyui-memory-manager -f
journalctl -u beszel-agent-wake -f

---

4. Fichiers Créés/Modifiés

Scripts

Fichier	Description
effi-stt/main.py	Ajout timeout inactivité
scripts/comfyui-memory-manager.py	Monitor + restart ComfyUI
scripts/kreuzberg-memory-manager.py	Monitor + restart Kreuzberg
scripts/beszel_client.py	Client API Beszel
scripts/start-memory-monitors.sh	Script démarrage monitors

Systemd

Fichier	Description
systemd/comfyui-memory-manager.service	Service ComfyUI manager
systemd/kreuzberg-memory-manager.service	Service Kreuzberg manager
systemd/beszel-agent-wake.service	Service wake Beszel

Beszel

Fichier	Description
beszel/docker-compose-hub.yml	Hub Synology
beszel/docker-compose-agent-folzocorp.yml	Agent FolzoCorp
beszel/docker-compose-agent-effiserver.yml	Agent EffiServer

---

5. État Actuel RAM

-date: 12 Avril 2026, 12:20

Mem:  25Gi used / 32Gi
VRAM: 1.18 GB / 17 GB (AMD RX 7800 XT)

Containers:

Container	RAM	Observation
ComfyUI	~18 GB	shm_size réservé, VRAM ~500 MB
effi-stt	~20 MB	Modèle déchargé si inactif
kreuzberg	~5 MB	Restart si > 2GB
openedai-speech	~15 MB	TTS - GPU, RAM légère

VRAM détail:

• ComfyUI: ~500 MB (modèles actifs)
• ROCm overhead: ~700 MB

---

6. Résumé Commits Gitea

Commit	Description
f69dda5	feat(memory): Déchargement automatique mémoire
8b1338f	feat(beszel): Installation Beszel infrastructure
5b677d8	fix(beszel): Mise à jour chemins installation
8b6f967	fix(beszel): Retrait group_add pour Fedora
e528e25	feat: Add systemd services for memory monitors
7439033	fix: Corriger script ComfyUI monitor
2ca4235	feat: Add ComfyUI memory manager with container restart

---

7. Liens Utiles

• Beszel GitHub
• Documentation Beszel
• AMD GPU Monitoring
• REST API

---

8. Notes

• ComfyUI: VRAM légère mais RAM élevée. Redémarrage container libère ~18 GB.
• effi-stt: Modèle CPU, se décharge correctement après timeout.
• Kreuzberg: Restart container après inactivité si > 2GB.
• openedai-speech: ~15 MB RAM, négligeable, utilise GPU pour modèles.
• Beszel: Wake service assure monitoring même après veille.