TinySwallow 1.5B ist eine Familie kompakter japanischer Sprachmodelle von Sakana AI und dem Swallow Team. Sie umfasst einen Base-Checkpoint für Textfortsetzung und TinySwallow-1.5B-Instruct für Konversation und das Befolgen von Anweisungen. Diese Karte verlinkt auf Instruct, weil es der praktische Ausgangspunkt für Personen ist, die einen lokalen Assistenten bauen möchten, statt das Training eines Basismodells fortzusetzen.
Warum TinySwallow ausgewählt wurde
Am 13. Juli 2026 lag TinySwallow-1.5B nach monatlichen Downloads unter den Modellen im offiziellen Hugging-Face-Profil von Sakana AI auf Platz eins, die Instruct-Version auf Platz zwei. Downloadzahlen ändern sich täglich und messen keine Qualität, liefern aber eine überprüfbare Antwort darauf, welches offene Modell derzeit die meiste Nutzung anzieht. AIDive veröffentlicht daher eine Karte zu einem bestimmten neuronalen Netzwerk und keinen allgemeinen Unternehmensartikel über Sakana AI.
Base oder Instruct
Base wurde zusätzlich mit japanischem Text vortrainiert und ist für Forschung, fortgesetztes Training und Textvervollständigungsaufgaben gedacht. Instruct wurde für Befehle und japanische Konversationsnutzung abgestimmt. Chats, Assistentenprototypen und lokale APIs sollten normalerweise mit Instruct beginnen. Base kann für individuelles Fine-Tuning geeigneter sein, wenn eine bereits vorhandene Assistentenpersönlichkeit oder ein Chatverhalten stören würde.
TAID und der Fokus auf Japanisch
TinySwallow wurde mit TAID erstellt, also Temporally Adaptive Interpolated Distillation. Qwen2.5-32B-Instruct diente als Teacher und Qwen2.5-1.5B-Instruct als Student. Distillation versucht, nützliches Verhalten von einem größeren Modell auf ein kleineres zu übertragen, das kostengünstiger ausgeführt werden kann. Die Modellkarte führt offiziell Japanisch als Sprache auf. Die Qwen-Grundlage kann Ausgaben auf Englisch oder in anderen Sprachen erzeugen, aber Sakana AI verspricht außerhalb des Japanischen keine gleichwertige Qualität.
Transformers, vLLM und 3,09 GB an Gewichten
Die wichtigste BF16-Gewichtsdatei von Instruct ist etwa 3,09 GB groß. Sie wird über Transformers geladen; das offizielle Profil enthält außerdem ein vLLM-Beispiel zum Bereitstellen einer OpenAI-kompatiblen API. Quantisierte Builds von Drittanbietern existieren, sollten aber separat bewertet werden. Die Konfiguration nennt bis zu 32.768 Kontextpositionen. Das ist ein technisches Fensterlimit und keine Garantie für präzise Arbeit über ein langes Dokument hinweg: Ein kompaktes Modell kann Details verlieren, halluzinieren und mit komplexem Schlussfolgern Schwierigkeiten haben.
Lizenzen und Grenzen eines experimentellen Modells
Die Seite trägt ein Apache-2.0-Label, das Modell leitet sich jedoch von Qwen ab und wurde außerdem mit Gemma-Daten trainiert. Sakana AI verlangt ausdrücklich, dass Nutzer sowohl die Apache-Bedingungen als auch die Gemma-Bedingungen und die Richtlinie zu verbotener Nutzung einhalten. Kommerzielle Nutzung ist nur erlaubt, wenn beide Anforderungskataloge erfüllt werden. Der Entwickler bezeichnet TinySwallow als experimentellen Prototyp für Forschung und Entwicklung; daher erfordern faktische Genauigkeit, Sicherheit und Eignung für eine Produktionsaufgabe weiterhin unabhängige Tests.
