ConfigurationUtiliser un LLM auto-hébergé
Utiliser un LLM auto-hébergé
Vous pouvez utiliser un LLM auto-hébergé (par ex. : via Ollama) pour traduire du contenu.
Allez sur la page des Réglages dans Service Configuration > Self-hosted LLM et configurez les valeurs.
| Réglage | Description |
|---|---|
| Endpoint URL | URL du endpoint HTTP pour votre modèle LLM auto-hébergé. Voir les exemples ci-dessous. |
| Compatible with API endpoint from | Avec quel fournisseur de service d'IA votre endpoint personnalisé est compatible : ChatGPT ou Claude. |
| Model | Nom du modèle LLM auto-hébergé à utiliser pour traduire le contenu. |
| Max tokens | Nombre maximum de tokens que le modèle peut générer dans la réponse. Laisser vide pour ne pas avoir de limite (ChatGPT) ou utiliser la valeur par défaut pour Claude. |
Exemples d'Endpoint URL :
| URL | Description |
|---|---|
http://localhost:11434/v1/chat/completions | Format ChatGPT, Ollama sur votre serveur |
http://localhost:11434/v1/messages | Format Claude, Ollama sur votre serveur |
https://ollama.com/v1/chat/completions | Format ChatGPT, Ollama Cloud |
https://ollama.com/v1/messages | Format Claude, Ollama Cloud |
Si vous hébergez le LLM sur votre propre serveur, vous n'aurez pas besoin de la clé API.
Si vous utilisez votre LLM auto-hébergé dans le cloud (par ex. : en utilisant Ollama Cloud), vous devrez peut-être fournir une clé API, via l'onglet API Keys > Self-hosted LLM sur la page des Réglages.
