docs: ajoute documentation complète OpenWebUI - Top 30 outils et configuration
- Documente les 30 meilleurs outils/fonctions/prompts pour OpenWebUI - Ajoute guide d'optimisation pour IA locale (self-hosted) - Inclut configuration Sub Agent Tool - Documente mémoire native vs solutions externes testées - Ajoute récapitulatif Gitea avec actions prioritaires Configuration validée: - qwen3.5:9b avec contexte 32K - Sub Agent Tool installé et configuré - Mémoire native (zéro latence) retenue - Infrastructure nettoyée (7 services) Refs: session-optimisation-2026-04-05
This commit is contained in:
Folzo
@@ -0,0 +1,909 @@
|
||||
# Top 30 Outils, Fonctions et Prompts pour Optimiser OpenWebUI (Local-First)
|
||||
|
||||
**Date de création :** 2026-04-05
|
||||
**Contexte :** Configuration locale self-hostée (Effi Project)
|
||||
**Objectif :** Optimiser l'expérience OpenWebUI pour une IA locale performante
|
||||
|
||||
---
|
||||
|
||||
## Résumé Exécutif
|
||||
|
||||
Ce document présente les 30 meilleurs outils, fonctions et configurations pour optimiser OpenWebUI dans un environnement self-hosté. Les recommandations sont classées par catégorie et priorisées selon leur impact pour une utilisation locale (Ollama, infrastructure personnelle).
|
||||
|
||||
---
|
||||
|
||||
## CATÉGORIE 1 : FONCTIONS NATIVES ESSENTIELLES (1-10)
|
||||
|
||||
### #1 - Sub Agent Tool ⭐⭐⭐⭐⭐
|
||||
**Type :** Tool
|
||||
**Auteur :** Skyzi000
|
||||
**Downloads :** 6.4K+
|
||||
|
||||
**Description :**
|
||||
Exécute des tâches complexes en autonomie dans un contexte isolé. Décompose les tâches multi-étapes en itérations gérées par un sous-agent dédié, puis retourne uniquement le résultat final pour garder le contexte principal propre.
|
||||
|
||||
**Avantages :**
|
||||
- Contexte isolé pour tâches complexes (pas de pollution du chat principal)
|
||||
- Exécution parallèle possible (jusqu'à 5 sub-agents simultanés)
|
||||
- Support natif des skills et outils builtin
|
||||
- Gestion automatique des citations et sources
|
||||
- Compatible avec tous les modèles supportant le function calling natif
|
||||
|
||||
**Configuration recommandée :**
|
||||
```yaml
|
||||
MAX_ITERATIONS: 10
|
||||
MAX_PARALLEL_AGENTS: 5
|
||||
EXCLUDED_TOOL_IDS: sub_agent # Évite la récursion
|
||||
ENABLE_WEB_TOOLS: true
|
||||
ENABLE_KNOWLEDGE_TOOLS: true
|
||||
ENABLE_CODE_INTERPRETER: true
|
||||
```
|
||||
|
||||
**Cas d'usage :**
|
||||
- Recherche multi-sources sur internet
|
||||
- Analyse de code complexe
|
||||
- Comparaison de solutions techniques
|
||||
- Revue de documentation étendue
|
||||
|
||||
**Installation :**
|
||||
Admin Panel → Tools → Discover → "Sub Agent" → Install
|
||||
|
||||
---
|
||||
|
||||
### #2 - Knowledge Memory (v4.0) ⭐⭐⭐⭐
|
||||
**Type :** Function (Filter)
|
||||
**Auteur :** normen
|
||||
**Downloads :** 395+
|
||||
|
||||
**Description :**
|
||||
Système de mémoire persistante utilisant les knowledge bases Qdrant pour stocker automatiquement les informations utilisateur. Extraction asynchrone des faits avec modèle séparé, stockage dans knowledge base, récupération via RAG natif.
|
||||
|
||||
**Avantages :**
|
||||
- Mémoire persistante entre conversations
|
||||
- Extraction automatique des faits
|
||||
- Utilise Qdrant déjà présent (pas de service supplémentaire)
|
||||
- Déduplication automatique via similarité
|
||||
- Pas de latence ajoutée (extraction asynchrone)
|
||||
|
||||
**Inconvénients pour usage local :**
|
||||
- Ajoute ~5-10 secondes de traitement par message
|
||||
- Consomme des requêtes LLM supplémentaires
|
||||
- Peut être trop lourd pour usage quotidien intensif
|
||||
|
||||
**Configuration recommandée :**
|
||||
```yaml
|
||||
Model: qwen3.5:2b # Modèle léger pour extraction
|
||||
Context Messages Count: 5
|
||||
Enable Query Generation: true
|
||||
Fetch Memories With Model: false # Utilise RAG natif
|
||||
Use Legacy Memory System: false
|
||||
Knowledge Base Name: memory-base
|
||||
```
|
||||
|
||||
**Verdict :**
|
||||
✅ Excellent pour mémoire complète, ❌ Trop lent pour usage rapide quotidien
|
||||
|
||||
---
|
||||
|
||||
### #3 - Web Search (Builtin) ⭐⭐⭐⭐⭐
|
||||
**Type :** Builtin Tool Natif
|
||||
**Disponibilité :** Open WebUI 0.7+
|
||||
|
||||
**Description :**
|
||||
Recherche web intégrée permettant à l'IA d'accéder aux informations actualisées en temps réel. Supporte plusieurs providers (SearXNG, Brave Search, Google Custom Search, etc.).
|
||||
|
||||
**Avantages :**
|
||||
- Activation instantanée (pas de configuration complexe)
|
||||
- Résultats avec citations et sources
|
||||
- Actualisation automatique des connaissances
|
||||
- Supporte les recherches récentes (actualités, sport, tech)
|
||||
- Fonctionne offline si SearXNG auto-hébergé
|
||||
|
||||
**Configuration recommandée :**
|
||||
```yaml
|
||||
Provider: SearXNG (auto-hébergé) ou Brave Search
|
||||
Résultats par recherche: 5-10
|
||||
Langue: Français + Anglais
|
||||
```
|
||||
|
||||
**Activation :**
|
||||
Admin Panel → Settings → Web Search → Enable
|
||||
|
||||
**Usage optimal :**
|
||||
- "Quelles sont les dernières nouvelles sur..."
|
||||
- "Donne-moi le classement actuel de..."
|
||||
- "Recherche des tutoriels récents sur..."
|
||||
|
||||
---
|
||||
|
||||
### #4 - RAG Document (Knowledge Base) ⭐⭐⭐⭐⭐
|
||||
**Type :** Builtin Feature
|
||||
**Vector DB :** Qdrant, ChromaDB, PGVector, etc.
|
||||
|
||||
**Description :**
|
||||
Système d'indexation de documents (PDF, TXT, MD, DOCX) pour recherche sémantique. Permet à l'IA d'accéder à votre documentation personnelle et projet.
|
||||
|
||||
**Avantages :**
|
||||
- Indexation automatique de documents multiples
|
||||
- Recherche sémantique ( compréhension contextuelle)
|
||||
- Support de 9 bases vectorielles différentes
|
||||
- Hybrid search (BM25 + vectoriel)
|
||||
- 5 moteurs d'extraction (Tika, Docling, Azure, Mistral OCR)
|
||||
- Mode "full context" (injection complète sans chunking)
|
||||
|
||||
**Configuration recommandée pour usage local :**
|
||||
```yaml
|
||||
Vector DB: Qdrant (déjà présent sur effi-server)
|
||||
Embedding Model: bge-m3 (local, via Ollama)
|
||||
Chunk Size: 1000
|
||||
Chunk Overlap: 200
|
||||
Top K: 5-10
|
||||
```
|
||||
|
||||
**Cas d'usage pour Effi :**
|
||||
- Knowledge base "effi-docs" avec documentation projet
|
||||
- KB "archives" pour documents techniques
|
||||
- KB "guides" pour tutoriels et procédures
|
||||
|
||||
**Création :**
|
||||
Workspace → Knowledge → + New Knowledge
|
||||
|
||||
---
|
||||
|
||||
### #5 - Memory (Native) ⭐⭐⭐⭐⭐
|
||||
**Type :** Builtin Feature
|
||||
**Emplacement :** Profile → Settings → Personalization → Memory
|
||||
|
||||
**Description :**
|
||||
Mémoire utilisateur basique intégrée nativement. Permet de stocker manuellement des faits importants sur l'utilisateur qui sont injectés automatiquement dans chaque conversation via `<memory_user_context>`.
|
||||
|
||||
**Avantages :**
|
||||
- **Zéro latence** (pas d'extraction automatique)
|
||||
- 100% fiable (vous contrôlez ce qui est mémorisé)
|
||||
- Stockage simple et durable
|
||||
- Pas de dépendance externe
|
||||
- Fonctionne offline
|
||||
- Contrôle total sur la qualité des souvenirs
|
||||
|
||||
**Inconvénients :**
|
||||
- Pas d'extraction automatique (manuel uniquement)
|
||||
- Nécessite une mise à jour manuelle
|
||||
|
||||
**Contenu recommandé pour mémoire :**
|
||||
```markdown
|
||||
# Identité
|
||||
Prénom: Folzo
|
||||
Profession: Développeur Python
|
||||
Localisation: France
|
||||
|
||||
# Préférences
|
||||
Langue: Français
|
||||
Style communication: Direct, concis
|
||||
Style code: Clean code, SOLID, TDD
|
||||
|
||||
# Stack
|
||||
Langages: Python, JavaScript
|
||||
Outils: Docker, Git, Linux, Neovim
|
||||
OS: Fedora (desktop), Ubuntu Server (serveur)
|
||||
|
||||
# Infrastructure
|
||||
Serveur: effi-server (192.168.1.27, Intel J5040, 8GB)
|
||||
PC Gaming: folzo-Corp (192.168.1.11, Ryzen 5800X3D, RX 7800 XT, 32GB)
|
||||
Services: Open WebUI, Ollama, Qdrant, N8N
|
||||
|
||||
# Projets
|
||||
Principal: Effi (assistant IA local)
|
||||
|
||||
# Règles importantes
|
||||
- Préférer self-hosté vs cloud
|
||||
- Toujours expliquer le "pourquoi"
|
||||
- Commandes prêtes à copier
|
||||
```
|
||||
|
||||
**Verdict :**
|
||||
✅ Solution retenue pour Effi après tests (performant et fiable)
|
||||
|
||||
---
|
||||
|
||||
### #6 - Code Interpreter ⭐⭐⭐⭐
|
||||
**Type :** Builtin Tool / Open Terminal
|
||||
**Disponibilité :** Open WebUI 0.7+ / Open Terminal
|
||||
|
||||
**Description :**
|
||||
Permet l'exécution de code Python (et autres langages) directement dans le chat pour analyse de données, calculs complexes, et visualisation.
|
||||
|
||||
**Avantages :**
|
||||
- Exécution sandboxée (sécurisée)
|
||||
- Visualisation graphique (matplotlib, plotly)
|
||||
- Traitement de données (pandas, numpy)
|
||||
- Génération de fichiers
|
||||
- Itération et débogage
|
||||
|
||||
**Modes d'exécution :**
|
||||
1. **Browser sandbox** : Exécution légère dans le navigateur
|
||||
2. **Open Terminal** : Environnement complet Docker ou bare metal
|
||||
|
||||
**Configuration Open Terminal :**
|
||||
```yaml
|
||||
Type: Docker (recommandé) ou Local
|
||||
Isolation: Container dédié
|
||||
Packages préinstallés: pandas, numpy, matplotlib, requests
|
||||
```
|
||||
|
||||
**Cas d'usage :**
|
||||
- Analyse de logs
|
||||
- Calculs statistiques
|
||||
- Génération de graphiques
|
||||
- Traitement de CSV/JSON
|
||||
- Prototypage rapide
|
||||
|
||||
---
|
||||
|
||||
### #7 - Speech-to-Text (Whisper) ⭐⭐⭐⭐
|
||||
**Type :** External Service (Docker)
|
||||
**Modèle :** faster-whisper (Systran/faster-whisper-large-v3)
|
||||
|
||||
**Description :**
|
||||
Service de transcription audio en texte utilisant Whisper d'OpenAI (implémentation faster-whisper pour performance). Permet l'entrée vocale dans Open WebUI.
|
||||
|
||||
**Avantages :**
|
||||
- Entrée vocale mains libres
|
||||
- Support multilingue (français excellent)
|
||||
- Précision élevée
|
||||
- Fonctionne 100% offline
|
||||
- Intégration native Open WebUI
|
||||
|
||||
**Configuration actuelle (effi-server) :**
|
||||
```yaml
|
||||
Service: Whisper (Docker)
|
||||
Port: 8200
|
||||
Modèle: Systran/faster-whisper-large-v3
|
||||
Langue: FR
|
||||
Device: CPU (serveur effi)
|
||||
```
|
||||
|
||||
**Configuration Open WebUI :**
|
||||
```yaml
|
||||
AUDIO_STT_ENGINE: openai
|
||||
AUDIO_STT_OPENAI_API_BASE_URL: http://192.168.1.27:8200/v1
|
||||
AUDIO_STT_MODEL: Systran/faster-whisper-large-v3
|
||||
```
|
||||
|
||||
**Performance :**
|
||||
- Latence: ~1-3 secondes pour 10-30 secondes d'audio
|
||||
- Précision: >95% pour français clair
|
||||
- Utilisation CPU: Modérée (Intel J5040 suffisant)
|
||||
|
||||
---
|
||||
|
||||
### #8 - Text-to-Speech (Openedai-Speech) ⭐⭐⭐
|
||||
**Type :** External Service (Docker)
|
||||
**Modèle :** openedai-speech
|
||||
|
||||
**Description :**
|
||||
Service de synthèse vocale pour les réponses de l'IA. Permet d'écouter les réponses plutôt que de les lire.
|
||||
|
||||
**Avantages :**
|
||||
- Accessibilité (malvoyants, situation mains libres)
|
||||
- Réponses parlées naturelles
|
||||
- Multiples voix disponibles
|
||||
- Fonctionne offline
|
||||
|
||||
**Configuration actuelle :**
|
||||
```yaml
|
||||
Service: Openedai-Speech (Docker)
|
||||
Port: 8100 (sur folzo-Corp)
|
||||
Voices: Disponibles dans ./tts-voices
|
||||
```
|
||||
|
||||
**⚠️ Problème actuel :**
|
||||
Connexion refusée au port 8100 depuis effi-server. Nécessite une vérification sur folzo-Corp.
|
||||
|
||||
**Solution temporaire :**
|
||||
Désactivé dans la configuration Open WebUI jusqu'à résolution.
|
||||
|
||||
---
|
||||
|
||||
### #9 - Image Generation ⭐⭐⭐
|
||||
**Type :** Builtin Feature / External API
|
||||
**Providers :** DALL-E (OpenAI), ComfyUI (local), Gemini
|
||||
|
||||
**Description :**
|
||||
Génération d'images directement dans le chat via API externe ou service local (ComfyUI avec Stable Diffusion).
|
||||
|
||||
**Avantages :**
|
||||
- Création visuelle instantanée
|
||||
- Intégration fluide dans conversations
|
||||
- Styles personnalisables (prompt engineering)
|
||||
- Possibilité d'édition d'images
|
||||
|
||||
**Options pour usage local :**
|
||||
1. **ComfyUI + Stable Diffusion** (sur folzo-Corp avec RX 7800 XT)
|
||||
- 100% offline
|
||||
- Utilise GPU AMD pour génération rapide
|
||||
- Nécessite configuration ROCm
|
||||
|
||||
2. **DALL-E via OpenAI API** (cloud)
|
||||
- Simple mais payant
|
||||
- Haute qualité
|
||||
|
||||
**Configuration recommandée (local) :**
|
||||
```yaml
|
||||
Provider: ComfyUI
|
||||
URL: http://192.168.1.11:8188 (à configurer sur folzo-Corp)
|
||||
Modèle: SDXL ou SD 1.5 optimisé pour ROCm
|
||||
```
|
||||
|
||||
**Installation ComfyUI sur folzo-Corp :**
|
||||
```bash
|
||||
# À exécuter sur folzo-Corp
|
||||
pip install comfyui
|
||||
# Configurer pour utiliser ROCm (AMD GPU)
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
### #10 - Notes ⭐⭐⭐⭐
|
||||
**Type :** Builtin Feature
|
||||
**Disponibilité :** Open WebUI 0.8+
|
||||
|
||||
**Description :**
|
||||
Système de prise de notes intégré avec éditeur riche (Markdown et Rich Text). Les notes peuvent être attachées aux conversations pour injection de contexte complet.
|
||||
|
||||
**Avantages :**
|
||||
- Organisation personnelle hors conversations
|
||||
- Éditeur riche avec formatage
|
||||
- AI Enhance (réécriture/amélioration du texte sélectionné)
|
||||
- Injection de contexte complète (pas de chunking)
|
||||
- Recherche dans les notes
|
||||
- Accès agentic (modèles peuvent lire/écrire)
|
||||
|
||||
**Cas d'usage :**
|
||||
- Journal de bord du projet
|
||||
- Documentation technique persistante
|
||||
- Brouillons de documents
|
||||
- Checklist et tâches
|
||||
- Templates réutilisables
|
||||
|
||||
**Création :**
|
||||
Menu latéral → Notes → + New Note
|
||||
|
||||
---
|
||||
|
||||
## CATÉGORIE 2 : OUTILS SPÉCIALISÉS (11-20)
|
||||
|
||||
### #11 - Home Assistant Tool ⭐⭐⭐⭐
|
||||
**Type :** Custom Tool (via Tools)
|
||||
**Usage :** Domotique
|
||||
|
||||
**Description :**
|
||||
Intégration avec Home Assistant pour contrôle des appareils domotiques, automatisation de la maison, et monitoring.
|
||||
|
||||
**Avantages :**
|
||||
- Contrôle voix/commande des appareils
|
||||
- Scénarios automatisés
|
||||
- Monitoring capteurs
|
||||
- Intégration avec l'écosystème domotique existant
|
||||
|
||||
**Configuration :**
|
||||
- Nécessite une instance Home Assistant accessible
|
||||
- Token d'accès API Long-Lived
|
||||
|
||||
**Cas d'usage pour Effi :**
|
||||
- "Allume la lumière du bureau"
|
||||
- "Quelle est la température du salon ?"
|
||||
- "Active le mode cinéma"
|
||||
|
||||
**Statut :** Configuré dans le modèle Effi
|
||||
|
||||
---
|
||||
|
||||
### #12 - Fileshed ⭐⭐⭐
|
||||
**Type :** Custom Tool
|
||||
**Usage :** Gestion de fichiers
|
||||
|
||||
**Description :**
|
||||
Outil de gestion et traitement de fichiers uploadés. Permet des opérations avancées sur les documents.
|
||||
|
||||
**Avantages :**
|
||||
- Upload et traitement batch
|
||||
- Analyse de fichiers multiples
|
||||
- Extraction de métadonnées
|
||||
- Conversion de formats
|
||||
|
||||
**Statut :** Configuré dans le modèle Effi
|
||||
|
||||
---
|
||||
|
||||
### #13 - Web Scraping / Browser Tool ⭐⭐⭐⭐
|
||||
**Type :** Tool communautaire
|
||||
**Usage :** Extraction web
|
||||
|
||||
**Description :**
|
||||
Navigation web automatisée pour extraction de contenu, remplissage de formulaires, et scraping de pages.
|
||||
|
||||
**Avantages :**
|
||||
- Extraction de contenu depuis URLs
|
||||
- Interaction avec formulaires web
|
||||
- Capture de pages
|
||||
- Suivi de liens
|
||||
|
||||
**Implémentation :**
|
||||
- Via Playwright ou Selenium
|
||||
- Nécessite un environnement headless
|
||||
|
||||
**Cas d'usage :**
|
||||
- "Extrais le contenu de cette page"
|
||||
- "Remplis ce formulaire avec mes infos"
|
||||
- "Vérifie le prix sur ce site"
|
||||
|
||||
---
|
||||
|
||||
### #14 - Calculator / Math Tool ⭐⭐⭐
|
||||
**Type :** Builtin Tool
|
||||
**Usage :** Calculs précis
|
||||
|
||||
**Description :**
|
||||
Outil de calcul mathématique et manipulation de dates pour des opérations précises.
|
||||
|
||||
**Avantages :**
|
||||
- Précision calculatoire (pas d'hallucination sur les maths)
|
||||
- Calculs complexes
|
||||
- Conversions unités
|
||||
- Manipulation dates/fuseaux horaires
|
||||
|
||||
**Activation :**
|
||||
Partie des builtin tools (time utilities)
|
||||
|
||||
---
|
||||
|
||||
### #15 - Wikipedia Tool ⭐⭐⭐
|
||||
**Type :** Builtin / Tool communautaire
|
||||
**Usage :** Recherche encyclopédique
|
||||
|
||||
**Description :**
|
||||
Recherche et récupération d'articles Wikipedia pour informations factuelles structurées.
|
||||
|
||||
**Avantages :**
|
||||
- Accès encyclopédique multilingue
|
||||
- Articles structurés
|
||||
- Vérification factuelle
|
||||
- Sources réputées
|
||||
|
||||
---
|
||||
|
||||
### #16 - GitHub Integration Tool ⭐⭐⭐⭐
|
||||
**Type :** Tool communautaire
|
||||
**Usage :** Développement
|
||||
|
||||
**Description :**
|
||||
Interaction avec dépôts GitHub pour gestion d'issues, revue de code, et accès repositories.
|
||||
|
||||
**Avantages :**
|
||||
- Création/lecture d'issues
|
||||
- Revue de Pull Requests
|
||||
- Accès au code source
|
||||
- Gestion des projets
|
||||
|
||||
**Configuration :**
|
||||
- Token GitHub Personal Access Token
|
||||
|
||||
**Cas d'usage :**
|
||||
- "Liste les issues ouvertes sur effi"
|
||||
- "Crée une issue pour ce bug"
|
||||
- "Montre-moi le diff de la dernière PR"
|
||||
|
||||
---
|
||||
|
||||
### #17 - Translation Tool ⭐⭐⭐
|
||||
**Type :** Tool / Feature
|
||||
**Usage :** Multilingue
|
||||
|
||||
**Description :**
|
||||
Traduction automatique entre langues avec conservation du contexte.
|
||||
|
||||
**Avantages :**
|
||||
- Traduction de documents entiers
|
||||
- Conservation du formatage
|
||||
- Support de nombreuses langues
|
||||
- Intégration fluide
|
||||
|
||||
**Note :**
|
||||
Moins nécessaire si le modèle principal est multilingue (qwen3.5 supporte très bien le français)
|
||||
|
||||
---
|
||||
|
||||
### #18 - Database Query Tool ⭐⭐⭐
|
||||
**Type :** Tool communautaire
|
||||
**Usage :** Données
|
||||
|
||||
**Description :**
|
||||
Permet à l'IA d'interroger des bases de données SQL (PostgreSQL, MySQL, SQLite) ou NoSQL.
|
||||
|
||||
**Avantages :**
|
||||
- Requêtes SQL sécurisées
|
||||
- Visualisation des résultats
|
||||
- Analyse de données structurées
|
||||
- Gestion des permissions
|
||||
|
||||
**Configuration :**
|
||||
- String de connexion (sécurisé)
|
||||
- Schéma de base de données (optionnel pour contexte)
|
||||
|
||||
---
|
||||
|
||||
### #19 - Calendar & Reminder Plugin ⭐⭐⭐
|
||||
**Type :** Tool / Integration
|
||||
**Usage :** Productivité
|
||||
|
||||
**Description :**
|
||||
Gestion de calendrier et rappels intégrés pour planification et organisation.
|
||||
|
||||
**Avantages :**
|
||||
- Création d'événements
|
||||
- Rappels programmés
|
||||
- Synchronisation possible (Google Calendar, CalDAV)
|
||||
- Vue d'ensemble planning
|
||||
|
||||
**Cas d'usage :**
|
||||
- "Rappelle-moi de faire la sauvegarde demain"
|
||||
- "Ajoute une réunion à mon calendrier"
|
||||
- "Qu'est-ce que j'ai prévu cette semaine ?"
|
||||
|
||||
---
|
||||
|
||||
### #20 - File Upload & Processing ⭐⭐⭐⭐
|
||||
**Type :** Builtin Feature
|
||||
**Usage :** Documents
|
||||
|
||||
**Description :**
|
||||
Gestion avancée des fichiers uploadés avec prévisualisation, extraction de texte (OCR), et analyse.
|
||||
|
||||
**Avantages :**
|
||||
- Support multiple formats (PDF, DOCX, TXT, images)
|
||||
- Extraction OCR pour images
|
||||
- Analyse de documents complexes
|
||||
- Prévisualisation intégrée
|
||||
- Chunking intelligent pour RAG
|
||||
|
||||
**Formats supportés :**
|
||||
- Documents : PDF, DOCX, TXT, MD
|
||||
- Images : PNG, JPG, WEBP (avec OCR)
|
||||
- Code : Tous formats
|
||||
- Data : CSV, JSON, XML
|
||||
|
||||
---
|
||||
|
||||
## CATÉGORIE 3 : PROMPTS SYSTÈME OPTIMISÉS (21-26)
|
||||
|
||||
### #21 - Role-Based System Prompt (Effi Style) ⭐⭐⭐⭐⭐
|
||||
**Type :** Configuration Modèle
|
||||
|
||||
**Description :**
|
||||
Prompt définissant clairement le rôle, la personnalité, le ton, et les règles de l'assistant. Essentiel pour la cohérence des réponses.
|
||||
|
||||
**Structure optimale :**
|
||||
```markdown
|
||||
# Identité
|
||||
Tu es [Nom], l'assistante IA [type] de [Utilisateur]
|
||||
Date et heure : {{CURRENT_DATE}} {{CURRENT_TIME}}
|
||||
|
||||
# Langue et ton
|
||||
- Langue : [Français/Anglais/...]
|
||||
- Ton : [Professionnel/Conversationnel/...]
|
||||
- Style : [Concis/Détaillé/...]
|
||||
|
||||
# Règles de réponse
|
||||
1. [Règle 1]
|
||||
2. [Règle 2]
|
||||
3. [Règle 3]
|
||||
|
||||
# Spécialités
|
||||
- [Domaine 1] : [Approche]
|
||||
- [Domaine 2] : [Approche]
|
||||
|
||||
# Actions sensibles
|
||||
- [Action] : [Comportement requis]
|
||||
|
||||
# Mémoire
|
||||
<memory_user_context></memory_user_context>
|
||||
```
|
||||
|
||||
**Exemple concret (Effi) :**
|
||||
Voir le prompt configuré dans le modèle Effi (déjà optimisé)
|
||||
|
||||
---
|
||||
|
||||
### #22 - Chain-of-Thought Prompt ⭐⭐⭐⭐
|
||||
**Type :** Technique de prompting
|
||||
|
||||
**Description :**
|
||||
Activation du raisonnement étape par étape pour des réponses plus précises et vérifiées.
|
||||
|
||||
**Formulation :**
|
||||
```
|
||||
"Réfléchis étape par étape avant de répondre.
|
||||
Explique ton raisonnement de manière concise."
|
||||
```
|
||||
|
||||
**Avantages :**
|
||||
- Réduction des erreurs
|
||||
- Raisonnement visible
|
||||
- Meilleure logique
|
||||
- Moins d'hallucinations
|
||||
|
||||
**Usage :**
|
||||
À ajouter dans le system prompt ou à demander explicitement pour les questions complexes.
|
||||
|
||||
---
|
||||
|
||||
### #23 - Context Window Optimization Prompt ⭐⭐⭐⭐
|
||||
**Type :** Configuration technique
|
||||
|
||||
**Description :**
|
||||
Configuration et prompt optimisant l'utilisation de la fenêtre de contexte (32K-128K tokens).
|
||||
|
||||
**Configuration recommandée (qwen3.5:9b) :**
|
||||
```yaml
|
||||
num_ctx: 32768 # Maximum pour ce modèle
|
||||
temperature: 0.7
|
||||
```
|
||||
|
||||
**Prompt d'optimisation :**
|
||||
```
|
||||
"Pour les documents longs, concentre-toi sur les sections pertinentes.
|
||||
Si le contexte est trop long, fais un résumé des points clés."
|
||||
```
|
||||
|
||||
**Avantages :**
|
||||
- Traitement de longs documents
|
||||
- Conservation des informations importantes
|
||||
- Résumé automatique si nécessaire
|
||||
|
||||
---
|
||||
|
||||
### #24 - Multi-Step Task Prompt ⭐⭐⭐⭐
|
||||
**Type :** Structure de prompting
|
||||
|
||||
**Description :**
|
||||
Format structurant les tâches complexes en étapes numérotées pour assurer la complétude.
|
||||
|
||||
**Format :**
|
||||
```markdown
|
||||
<mission>[Objectif clair]</mission>
|
||||
<etapes>
|
||||
1. [Étape 1 détaillée]
|
||||
2. [Étape 2 détaillée]
|
||||
3. [Étape 3 détaillée]
|
||||
</etapes>
|
||||
<format>[Format de sortie attendu]</format>
|
||||
<contraintes>[Limites à respecter]</contraintes>
|
||||
```
|
||||
|
||||
**Usage :**
|
||||
À utiliser dans les prompts pour Sub Agent
|
||||
|
||||
---
|
||||
|
||||
### #25 - Language Constraint Prompt ⭐⭐⭐
|
||||
**Type :** Règle de langue
|
||||
|
||||
**Description :**
|
||||
Forçage de la langue de réponse pour assurer la cohérence.
|
||||
|
||||
**Formulations :**
|
||||
```
|
||||
"Réponds UNIQUEMENT en français, quelle que soit la langue utilisée."
|
||||
"Si la question est en anglais, réponds en français."
|
||||
"Maintiens la conversation en français."
|
||||
```
|
||||
|
||||
**Note :**
|
||||
qwen3.5 est très bon en français, donc moins critique que pour d'autres modèles.
|
||||
|
||||
---
|
||||
|
||||
### #26 - Safety & Ethics Prompt ⭐⭐⭐
|
||||
**Type :** Règles de sécurité
|
||||
|
||||
**Description :**
|
||||
Intégration de règles de sécurité pour les actions risquées.
|
||||
|
||||
**Exemple :**
|
||||
```
|
||||
"Pour toute action destructive (rm, format, suppression),
|
||||
demande une confirmation explicite avant d'exécuter."
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
## CATÉGORIE 4 : CONFIGURATIONS & OPTIMISATIONS TECHNIQUES (27-30)
|
||||
|
||||
### #27 - GPU Quantization (GGUF) ⭐⭐⭐⭐⭐
|
||||
**Type :** Optimisation modèle
|
||||
**Formats :** Q4_K_M, Q5_K_M, Q6_K
|
||||
|
||||
**Description :**
|
||||
Réduction de la précision des poids du modèle pour économiser VRAM tout en maintenant la qualité.
|
||||
|
||||
**Recommandations pour RX 7800 XT 16GB :**
|
||||
- **Q4_K_M** : Équilibre optimal (4.5GB → 16GB utilisable)
|
||||
- **Q5_K_M** : Qualité supérieure (5.5GB)
|
||||
- **Q6_K** : Qualité quasi-FP16 (7GB)
|
||||
|
||||
**Avantages :**
|
||||
- Économie 50-75% VRAM
|
||||
- Vitesse d'inférence améliorée
|
||||
- Possibilité de charger des modèles plus grands
|
||||
- Peu de perte de qualité (Q4_K_M et Q5_K_M)
|
||||
|
||||
**Téléchargement GGUF :**
|
||||
```bash
|
||||
ollama pull qwen3.5:9b-q4_K_M
|
||||
# ou créer un Modelfile personnalisé
|
||||
```
|
||||
|
||||
**Verdict :**
|
||||
✅ Essentiel pour optimisation locale
|
||||
|
||||
---
|
||||
|
||||
### #28 - KV Cache Management ⭐⭐⭐⭐
|
||||
**Type :** Optimisation mémoire
|
||||
|
||||
**Description :**
|
||||
Gestion du cache Key-Value pour optimiser les conversations longues.
|
||||
|
||||
**Paramètres clés :**
|
||||
```yaml
|
||||
num_ctx: 32768 # Taille contexte
|
||||
num_batch: 512 # Taille batch
|
||||
num_gpu: 1 # GPU unique
|
||||
```
|
||||
|
||||
**Optimisations avancées :**
|
||||
- Flash Attention (si supporté)
|
||||
- KV cache quantization (expérimental)
|
||||
- Sliding window attention
|
||||
|
||||
---
|
||||
|
||||
### #29 - Model Loading Strategy ⭐⭐⭐
|
||||
**Type :** Gestion ressources
|
||||
|
||||
**Description :**
|
||||
Stratégie de chargement et maintien des modèles en mémoire.
|
||||
|
||||
**Paramètre keep_alive :**
|
||||
```yaml
|
||||
keep_alive: 5m # Maintient le modèle 5 minutes après dernière utilisation
|
||||
# Options: 5m, 10m, 30m, 1h, ou -1 (infini)
|
||||
```
|
||||
|
||||
**Pour usage intensif local :**
|
||||
```bash
|
||||
# Dans ollama.service ou config.json
|
||||
{"keep_alive": "30m"}
|
||||
```
|
||||
|
||||
**Avantages :**
|
||||
- Réponses instantanées après première requête
|
||||
- Pas de temps de chargement répété
|
||||
- Meilleure expérience utilisateur
|
||||
|
||||
---
|
||||
|
||||
### #30 - Parallel Processing & Batch ⭐⭐⭐
|
||||
**Type :** Optimisation throughput
|
||||
|
||||
**Description :**
|
||||
Configuration du traitement parallèle pour maximiser l'utilisation GPU.
|
||||
|
||||
**Paramètres :**
|
||||
```yaml
|
||||
num_batch: 512 # Requêtes traitées en parallèle
|
||||
num_thread: 8 # Threads CPU (sur 5800X3D)
|
||||
```
|
||||
|
||||
**Limitations avec votre setup :**
|
||||
- Le 5800X3D (8C/16T) est excellent
|
||||
- Le RX 7800 XT 16GB est le bottleneck principal
|
||||
- Optimiser pour latence (1 utilisateur) plutôt que throughput
|
||||
|
||||
**Recommandation :**
|
||||
Priorité à `num_batch: 512` et `num_ctx: 32768` pour latence optimale.
|
||||
|
||||
---
|
||||
|
||||
## CLASSEMENT GLOBAL PAR PRIORITÉ
|
||||
|
||||
### Tier S (Essentiels - À installer/configurer immédiatement)
|
||||
1. ✅ Sub Agent Tool (déjà installé)
|
||||
2. ✅ Web Search (builtin, activer)
|
||||
3. ✅ RAG Knowledge Base (créer effi-docs)
|
||||
4. ✅ Memory Native (remplir avec faits clés)
|
||||
5. ✅ Role-Based System Prompt (déjà configuré)
|
||||
|
||||
### Tier A (Fortement recommandés)
|
||||
6. Whisper STT (déjà configuré)
|
||||
7. Notes (builtin, commencer à utiliser)
|
||||
8. Code Interpreter (si analyse de code fréquente)
|
||||
9. Q4_K_M Quantization (optimisation VRAM)
|
||||
10. Home Assistant (si domotique)
|
||||
|
||||
### Tier B (Selon besoins spécifiques)
|
||||
11. Image Generation (ComfyUI sur folzo-Corp)
|
||||
12. GitHub Tool (si dev fréquent)
|
||||
13. Web Scraping (si besoin extraction)
|
||||
14. Chain-of-Thought prompting (ajouter au besoin)
|
||||
15. Calendar Integration (si besoin productivité)
|
||||
|
||||
### Tier C (Optionnels/Avancés)
|
||||
16-30. Autres tools selon cas d'usage spécifique
|
||||
|
||||
---
|
||||
|
||||
## RECOMMANDATIONS IMMÉDIATES POUR EFFI
|
||||
|
||||
### Actions prioritaires (cette semaine)
|
||||
|
||||
1. **Créer la Knowledge Base "effi-docs"**
|
||||
```
|
||||
Workspace → Knowledge → + New Knowledge
|
||||
- Name: effi-docs
|
||||
- Upload: README.md, docs/, docker-compose.yml
|
||||
- Attacher au modèle Effi
|
||||
```
|
||||
|
||||
2. **Remplir la Memory Native**
|
||||
```
|
||||
Profile → Settings → Personalization → Memory
|
||||
- Copier le contenu défini dans ce document
|
||||
```
|
||||
|
||||
3. **Activer Web Search**
|
||||
```
|
||||
Admin Panel → Settings → Web Search → Enable
|
||||
- Configurer SearXNG si auto-hébergé
|
||||
- Ou utiliser Brave Search API
|
||||
```
|
||||
|
||||
4. **Optimiser les paramètres du modèle**
|
||||
```
|
||||
Admin Panel → Models → Effi → Edit
|
||||
- num_ctx: 32768
|
||||
- temperature: 0.7
|
||||
- repeat_penalty: 1.05
|
||||
```
|
||||
|
||||
5. **Tester Sub Agent**
|
||||
```
|
||||
Nouveau chat → Demande complexe multi-sources
|
||||
Ex: "Compare Docker et Podman pour serveur domestique"
|
||||
```
|
||||
|
||||
### Configuration à long terme
|
||||
|
||||
- **Image Generation** : Installer ComfyUI sur folzo-Corp (ROCm)
|
||||
- **TTS** : Résoudre le problème de connexion Openedai-Speech
|
||||
- **GitHub Tool** : Si besoin d'intégration développement
|
||||
- **Home Assistant** : Si pas encore fait et domotique présente
|
||||
|
||||
---
|
||||
|
||||
## CONCLUSION
|
||||
|
||||
Ces 30 outils couvrent l'ensemble des besoins pour une expérience OpenWebUI locale optimale :
|
||||
- **Fonctionnalités étendues** (Sub Agent, Web Search, RAG)
|
||||
- **Productivité** (Notes, Memory, Code Interpreter)
|
||||
- **Accessibilité** (STT, TTS, Image Generation)
|
||||
- **Performance** (Quantization, KV Cache, Context Window)
|
||||
|
||||
La configuration actuelle d'Effi (Sub Agent + Memory Native + qwen3.5:9b 32K) est déjà excellente. Les prochaines étapes prioritaires sont la création de la knowledge base et l'activation du web search.
|
||||
|
||||
---
|
||||
|
||||
**Document généré par :** OpenCode (Effi Assistant)
|
||||
**Date :** 2026-04-05
|
||||
**Version :** 1.0
|
||||
**Projet :** Effi - Configuration OpenWebUI Optimale
|
||||
Reference in New Issue
Block a user