Stack LLM open source
Exécutez et développez avec des modèles à poids ouverts : runtimes locaux, serveurs d’inférence et frameworks d’applications.
Déploiement des LLM locaux avec Ollama
Un outil multiplateforme qui permet de télécharger et exécuter des LLM open source comme Llama, Mistral et Phi en local sur votre machine. Il fournit un CLI, un serveur API local et un endpoint compatible OpenAI pour expérimenter avec les modèles en toute confidentialité — sans GPU ni compte cloud. Idéal pour les développeurs qui ont besoin de capacités IA hors ligne ou veulent tester des prompts avant le déploiement.
Cadre d’inférence haute performance vLLM
vLLM est un moteur d'inférence et de serving à haut débit pour grands modèles de langage, utilisant PagedAttention pour améliorer drastiquement l'efficacité mémoire et le débit. Il supporte le batching continu, le parallélisme de tenseurs et le service API compatible OpenAI, ce qui en fait un choix de premier plan pour déployer des LLMs à l'échelle.
Open WebUI
Open WebUI est une interface de chat IA auto-hébergée et riche en fonctionnalités qui supporte Ollama et les API compatibles OpenAI dès le départ. Elle fonctionne entièrement hors ligne, offre une expérience de conversation multi-modèles soignée et inclut la gestion des rôles, le support Markdown et l'extensibilité par plugins.
LM Studio Local Model Client
LM Studio est une application de bureau permettant de télécharger et exécuter des LLMs open source en local en un clic. Elle offre une interface graphique soignée pour chatter avec les modèles, un serveur API local compatible OpenAI et le support des formats GGUF/GGML — sans ligne de commande ni expertise GPU.
Plateforme de développement d’applications Dify LLM
Dify est une plateforme open source de développement d'applications LLM qui combine l'orchestration visuelle de workflows, un moteur RAG intégré et des capacités d'agent. Elle permet aux développeurs et aux utilisateurs non techniques de construire, tester et déployer rapidement des apps IA avec support multi-providers et intégration API transparente.
Cadre d’apprentissage profond PyTorch
PyTorch est un framework open source de deep learning développé par Meta, réputé pour son graphe de calcul dynamique et son interface Pythonique. Il alimente aussi bien la recherche IA de pointe que les déploiements en production, avec un riche écosystème d'outils pour entraîner, déboguer et scaler des modèles sur GPUs et TPUs.
Tutoriel sur les Transformers pour les Visages Câlins
Le tutoriel officiel de Hugging Face Transformers, la bibliothèque standard de l'industrie pour le NLP et la vision par ordinateur. Il couvre la classification de texte, la tokenisation, la traduction, la segmentation d'images et plus encore, avec des exemples de code pour les backends PyTorch et TensorFlow — destiné aux praticiens qui veulent tirer parti de modèles pré-entraînés ou les fine-tuner sur des jeux de données personnalisés pour la production.
Meta Llama
Llama est la famille de modèles à poids ouverts de Meta — l'épine dorsale de l'écosystème IA open source, déployable en local ou sur n'importe quel cloud. Disponible en plusieurs tailles, du léger à la classe frontière, Llama alimente d'innombrables dérivés affinés et donne aux organisations un contrôle total sur leur stack IA.
llama.cpp
llama.cpp est le moteur d'inférence léger en C/C++ qui exécute efficacement les LLM ouverts sur CPU et GPU grand public, servant de fondation à de nombreux outils locaux comme Ollama et LM Studio. Ses formats de quantification GGUF permettent aux grands modèles de tenir sur du matériel modeste, sans accélérateurs dédiés.