Open Source / offene Gewichte

Modelle oder Tools, deren Quellcode oder Gewichte öffentlich nutzbar, untersuchbar und selbst hostbar sind.

„Offene Gewichte“ (Llama, Qwen, Mistral …) heißt: Du kannst das Modell selbst herunterladen und betreiben – entscheidend für Datenschutz und Offline-Einsatz. Aber Achtung: Die Lizenzen unterscheiden sich und sind nicht immer echtes Open Source.

Verwandte Ressourcen

Bereitstellung lokaler LLMs mit Ollama

Ein plattformübergreifendes Tool, mit dem Open-Source-LLMs wie Llama, Mistral und Phi lokal auf dem eigenen Rechner laufen. Bietet CLI, lokalen API-Server und OpenAI-kompatiblen Endpoint – ganz ohne GPU oder Cloud-Account. Ideal für Entwickler, die Offline-KI-Fähigkeiten brauchen oder Prompts vor dem Produktions-Deployment testen wollen.

PyTorch Deep-Learning-Framework

PyTorch ist ein führendes Open-Source-Deep-Learning-Framework von Meta, bekannt für seinen dynamischen Rechengraph und die Python-artige Schnittstelle. Es treibt sowohl Spitzenforschung als auch Produktions-Deployments an, mit einem reichen Ökosystem an Tools für Training, Debugging und Skalierung von Modellen über GPUs und TPUs.

Llama ist Metas Familie offener Sprachmodelle – das Rückgrat des Open-Source-KI-Ökosystems, lokal oder in jeder Cloud einsetzbar. In mehreren Größen von leichtgewichtig bis Frontier-Klasse verfügbar, treibt Llama unzählige feinabgestimmte Derivate an und gibt Organisationen volle Kontrolle über ihren KI-Stack.