Sammlung
Eine Sammlung von neuronalen Netzen und KI-Tools, die Sie lokal auf Ihrem Computer oder auf Ihrem eigenen Server ausführen können.
Eine Sammlung von neuronalen Netzen und KI-Tools, die Sie lokal auf Ihrem Computer oder auf Ihrem eigenen Server ausführen können.
Ja, wenn die Anwendung und das Modell bereits auf Ihrem Gerät installiert sind. In der Regel benötigen Sie zu Beginn eine Internetverbindung, um die App, die Modellgewichte und Updates herunterzuladen. Danach können lokale Chats und Generierung auch offline funktionieren.
Für eine erste lokale Einrichtung sind LM Studio, Jan, GPT4All oder Msty Studio meist die einfachsten Optionen. Sie bieten Desktop-Oberflächen, Modellauswahl und weniger manuelle Konfiguration als serverbasierte Lösungen.
Für die API-Nutzung entscheiden sich viele für Ollama oder LocalAI. Ollama ist einfacher zum Einstieg und eignet sich gut für Entwickler, während LocalAI nützlich ist, wenn Sie ein OpenAI-kompatibles Backend und mehr Kontrolle über einen selbst gehosteten Stack benötigen.
Nicht immer. Kleinere LLMs können auf einer CPU laufen, aber die Leistung ist dann langsamer. Für größere Modelle und Bildgenerierung ist eine moderne GPU oder Apple Silicon mit ausreichend Speicher vorzuziehen.
GPT4All und AnythingLLM sind praktisch für den Chat mit lokalen Dateien. LM Studio unterstützt auch die Arbeit mit Dokumenten offline. Für eine teamorientierte, selbst gehostete Option ist Open WebUI eine Überlegung wert.
Ja. DiffusionBee ist eine einfachere Option für macOS, während ComfyUI und andere Oberflächen auf Basis von Stable Diffusion eine fortgeschrittene Konfiguration bieten. Wie bei Textmodellen müssen Sie die Modelle und Abhängigkeiten zuerst herunterladen.
Stöbern Sie in anderen Sammlungen — das passende Tool ist vielleicht schon dabei.
Sammlungen ansehen
