Le LLM abstrait : Une comparaison des options

Qu'est-ce qu'un LLM ablité ?

Les grands modèles de langage (LLM) subissent généralement un processus appelé Apprentissage par renforcement à partir des retours humains (RLHF) pour les aligner sur les préférences humaines. Cet alignement les rend polis, concis et sûrs, mais il introduit également des comportements de refus. Lorsque vous demandez à un modèle aligné de parler d'un sujet controversé ou de générer du contenu NSFW, il peut décliner, invoquant des directives de sécurité même si le contenu est parfaitement légal.

Un LLM abliteré est un modèle auquel ces couches d'alignement ont été retirées ou 'abliterées'. Cela se fait en soustrayant le vecteur d'alignement des poids du modèle. Le résultat est un modèle qui conserve son intelligence et ses capacités de raisonnement fondamentaux, mais qui manque des mécanismes de 'refus' spécifiques. Il répondra à votre question directement, que le sujet soit sensible, sexuel ou politiquement chargé, sans les hésitations ou le ton professoral habituels.

• Aucun refus : Le modèle répond en fonction de ses données d'entraînement plutôt que d'un filtre de sécurité.
• Sortie brute : Les réponses sont souvent plus directes et moins formatées pour la consommation humaine.
• Intégrité de base : Les connaissances et la logique sous-jacentes restent intactes, seul le filtre de « personnalité » est supprimé.

Ce processus est distinct du fine-tuning. Alors que le fine-tuning apprend de nouvelles compétences à un modèle, l'abliteration se contente de retirer les contraintes. Cela rend les modèles abliterés idéaux pour les développeurs qui souhaitent extraire des données brutes ou bénéficier d'une liberté créative sans interférence des filtres de contenu.

Déploiement local vs hébergé

Une fois que vous avez un modèle ablé, vous devez trouver un moyen de l'exécuter. Il existe deux voies principales : le déploiement local ou l'utilisation d'une API hébergée. Chacune a des implications techniques et économiques distinctes.

Déploiement local : Exécuter un modèle sur votre propre matériel vous donne un contrôle absolu. Vos données ne quittent jamais votre machine, ce qui est crucial pour les applications sensibles à la vie privée. Cependant, vous êtes responsable des coûts matériels, de l'électricité, du refroidissement et des mises à jour. Vous avez besoin d'une VRAM substantielle ; l'exécution locale d'un modèle de 70 milliards de paramètres pourrait nécessiter plusieurs GPU haut de gamme.

API hébergée : Un service hébergé exécute le modèle sur des serveurs distants. Vous envoyez des requêtes via HTTP et recevez des réponses. Cela élimine la gestion du matériel et vous permet de mettre à l'échelle instantanément. Vous ne payez que ce que vous utilisez, généralement via des tokens prépayés. L'inconvénient est que vos données passent par un serveur tiers, bien que de nombreux fournisseurs n'utilisent pas vos prompts pour l'entraînement.

Pour la plupart des développeurs, une API hébergée offre le meilleur équilibre entre coût et commodité, en particulier au début.

Ollama et modèles locaux

Ollama est devenu l'outil standard pour exécuter des LLM open source localement. Il simplifie le processus de téléchargement, de quantification et de mise à disposition de modèles comme Llama 3, Mistral ou Qwen. Vous pouvez facilement télécharger une version ablée de ces modèles et les servir via un endpoint API local.

En utilisant Ollama, vous pouvez extraire un modèle avec une commande simple comme ollama pull abliterated-model. L'outil gère la quantification, vous permettant d'exécuter des modèles plus grands sur du matériel grand public. Cependant, la vitesse d'inférence locale est limitée par la puissance de calcul de votre GPU. La génération de texte peut être plus lente par rapport à un centre de données dédié.

Les modèles locaux sont excellents pour le prototypage et garantir la souveraineté des données. Si vous construisez une base de connaissances privée ou un outil qui traite des données utilisateur sensibles, le déploiement local garantit qu'aucun tiers ne verra jamais vos entrées. Ollama prend également en charge le streaming et l'appel de fonctions, ce qui en fait un serveur local robuste. Cependant, vous devez gérer vous-même l'environnement, les dépendances et les pannes matérielles.

Pour les utilisateurs qui souhaitent la simplicité d'une installation locale mais la puissance d'un GPU cloud, des approches hybrides existent, mais Ollama reste la solution locale la plus simple.

Avantages de l'accès API

L'utilisation d'une API hébergée pour un modèle ablitré présente plusieurs avantages techniques, en particulier pour les environnements de production. Le bénéfice le plus significatif est l'interface compatible OpenAI. La plupart des API ablitrées suivent la norme /v1/chat/completions, ce qui signifie que vous pouvez utiliser les mêmes SDK et le même code que vous utiliseriez pour GPT-4.

Compatibilité : Vous pouvez modifier l'URL de base dans votre code existant pour pointer vers le fournisseur ablitré. Cela réduit considérablement le temps d'intégration.

Fonctionnalités : Les API modernes prennent en charge le streaming, l'appel de fonctions et le mode JSON. Cela vous permet de créer des applications complexes nécessitant des sorties structurées ou l'utilisation d'outils, tout comme avec des modèles commerciaux.

Disponibilité : Un fournisseur d'API professionnel garantit une haute disponibilité. Vous n'avez pas à vous soucier de la surchauffe de votre GPU local ou de la défaillance de votre alimentation lors d'une requête critique.

Confidentialité : De nombreux fournisseurs hébergés, y compris ceux qui proposent des modèles ablitrés, n'utilisent pas vos prompts pour l'entraînement. Il s'agit d'un argument de vente clé pour les entreprises qui souhaitent bénéficier des avantages des modèles sans censure sans sacrifier la confidentialité des données.

L'approche API abstrait la complexité du déploiement du modèle, vous permettant de vous concentrer sur la logique de votre application.

Comparaison des coûts

Comprendre la structure des coûts est essentiel pour budgétiser votre utilisation des LLM. Les modèles locaux ont un coût fixe élevé mais un coût marginal faible. Une fois que vous avez acheté le GPU, l'inférence est « gratuite » à part l'électricité. Les API hébergées ont des coûts fixes faibles mais un coût variable par token.

Coûts locaux : Un seul GPU NVIDIA A100 peut coûter entre 10 000 $ et 15 000 $. Vous pouvez y exécuter plusieurs modèles, mais vous êtes limité par la VRAM. Si vous avez besoin de plus de capacité, vous achetez plus de matériel. Cela est rentable pour un volume élevé d'utilisation sur une longue période.

Coûts API : Les API hébergées facturent généralement par million de tokens. Pour un modèle ablitré, les prix sont souvent inférieurs à ceux des modèles commerciaux car ils utilisent des bases à poids ouverts. Par exemple, un tarif typique peut être de 0,25 $ par million de tokens d'entrée et de 1,00 $ par million de tokens de sortie. C'est significativement moins cher que GPT-4o.

Pas de friction d'abonnement : De nombreux fournisseurs d'API utilisent un modèle de tokens prépayés. Vous achetez du crédit, l'utilisez, et en rachetez. Il n'y a pas de frais mensuels ni d'engagements. C'est idéal pour les charges de travail variables où vous pouvez avoir des pics d'utilisation suivis de périodes d'inactivité.

Pour la plupart des développeurs, le modèle API est plus rentable sauf si vous exécutez des millions de requêtes par jour sur un cluster dédié.

Considérations de performance

Lors du choix entre local et hébergé, les métriques de performance comme la latence, le débit et la taille de la fenêtre de contexte sont importantes. Les modèles locaux sont limités par la puissance de calcul et la bande passante mémoire de votre matériel. Un GPU grand public peut générer 20 tokens par seconde, tandis qu'un GPU de data center peut en générer des centaines.

Fenêtre de contexte : Les modèles locaux et hébergés prennent en charge de grandes fenêtres de contexte, souvent 100 000 tokens ou plus. Cela vous permet de traiter de longs documents ou de maintenir de longs historiques de conversation. Assurez-vous que votre GPU local dispose de suffisamment de VRAM pour contenir le contexte complet.

Latence : Les API hébergées ont une latence réseau (ping) en plus du temps de calcul. Cependant, les data centers sont optimisés pour une inférence à faible latence. Les modèles locaux ont une latence réseau quasi nulle mais peuvent avoir une latence de calcul plus élevée.

Concurrence : Les API hébergées peuvent gérer des milliers de requêtes simultanées. Les modèles locaux sont limités par la mémoire et les cœurs de calcul de votre GPU. Si vous devez servir plusieurs utilisateurs simultanément, une API hébergée est généralement plus évolutive.

Pour les applications en temps réel, une API hébergée offre souvent une expérience utilisateur plus fluide grâce à un débit plus élevé et des performances constantes.

Cas d'utilisation des modèles sans censure

Les modèles ablitrés brillent dans des cas d'utilisation spécifiques où les refus sont une nuisance. Ces modèles ne sont pas seulement destinés au contenu NSFW ; ils excellent dans les domaines nécessitant des données brutes et non filtrées.

• Écriture créative : Les auteurs peuvent explorer des thèmes plus sombres ou plus complexes sans que le modèle ne brise le personnage ou ne cite les directives de sécurité.
• Analyse des sentiments : Les modèles sans censure fournissent souvent une analyse des sentiments plus honnête et nuancée, car ils ne sont pas biaisés vers des réponses positives ou polies.
• Jeu de rôle : Pour les chatbots et les compagnons virtuels, les modèles ablitrés maintiennent mieux le personnage sans interrompre le flux pour s'expliquer.
• Extraction de données : Lors du scraping ou de l'extraction d'informations, vous voulez que le modèle produise tout ce qui est pertinent, et non seulement les parties « sûres ».
• Recherche : Les chercheurs étudiant les biais ou l'alignement peuvent utiliser des modèles ablitrés comme référence pour les comparer aux modèles alignés.

L'essentiel est que vous obteniez la distribution réelle des sorties du modèle, et non une version lissée et approuvée par les humains. Cela est inestimable pour les applications où l'authenticité est plus importante que la politesse.

Matrice de décision

Pour vous aider à décider, voici une matrice de décision basée sur les besoins courants des développeurs. Considérez votre contrainte principale : est-ce la confidentialité des données, le coût ou la facilité d'utilisation ?

Si vous construisez un prototype ou une petite application, une API hébergée est généralement le meilleur point de départ. Vous pouvez toujours migrer vers le local plus tard si vos besoins en confidentialité changent. Inversement, si vous traitez des données juridiques ou médicales sensibles, le déploiement local est plus sûr.