Comment faire tourner un LLM en local avec LM Studio

LM Studio est un logiciel qui permet de découvrir, de télécharger et de lancer des LLMs (Large Language Models) en local sur son ordinateur. L’outil a été lancé en 2023.

Même s’ils sont de loin les plus médiatisés, GPT 3.5 et GPT 4, les deux modèles de langage utilisés dans ChatGPT, ne sont pas les seuls sur le marché. Il en existe pléthore : LLaMA, développé par Meta, Stable LM, développé par Stable AI (les mêmes qui sont à l’initiative du modèle de génération d’image Stable Diffusion) ou encore Falcon, de l’Institut d’Innovation et de Technologie (IIT) d’Abu Dhabi.

Certains de ces modèles étant open source, on retrouve même des versions fine-tunées pour les rendre plus légers ou plus performants. Vigogne par exemple, a été “fine-tuné” / affiné sur du texte en Français.
Bref, ce n’est pas le choix qui manque. “Mais comment tester ces différents modèles pour savoir lequel correspond le mieux à mes besoins ?” me demanderez-vous ? Et bien jusqu’à présent, il fallait soit être assez bon en technique, soit passer par HuggingFace, soit utiliser LlaMA.cpp.

Enfin ça, c’était avant. Car il existe désormais une méthode beaucoup plus simple et rapide : installer LM Studio.