Chatty ist eine browserbasierte Oberfläche zum Chatten mit lokalen web-LLM-Modellen. Sie ist für Nutzer gedacht, die verschiedene Sprachmodelle testen möchten, ohne eine komplexe Umgebung einzurichten.
Lokale Modelle im Browser ausführen
Chatty konzentriert sich auf das Starten von Modellen über web-llm. Öffnen Sie die Seite, wählen Sie ein Modell aus und beginnen Sie sofort mit dem Chatten. Die UI zeigt aktive Chats, ermöglicht das schnelle Starten neuer Sitzungen und zeigt den Status des ausgewählten Modells an.
Optionen mit geringerem VRAM-Bedarf
Einige Modelle in der Liste enthalten den Suffix „(1k)“. Diese Varianten reduzieren den GPU-Speicherbedarf um etwa 2–3 GB und können hilfreich sein, wenn nur begrenzter VRAM zur Verfügung steht, Sie aber dennoch moderne LLMs testen möchten.
Gut für Experimente und alltägliche Prompts
Chatty eignet sich gut für:
Schnelle Fragen und Erklärungen
Das Verfassen kurzer Texte
Den Vergleich, wie verschiedene LLMs auf denselben Prompt reagieren
Einen einfachen Chat-Workflow mit gespeicherter Konversationshistorie
