TinySwallow 1.5B es una familia de modelos de lenguaje japoneses compactos de Sakana AI y el Swallow Team. Incluye un checkpoint base para continuación de texto y TinySwallow-1.5B-Instruct para conversación y seguimiento de instrucciones. Esta ficha enlaza a Instruct porque es el punto de partida práctico para quien quiere crear un asistente local, en lugar de continuar el entrenamiento de un modelo base.
Por qué se eligió TinySwallow
El 13 de julio de 2026, TinySwallow-1.5B ocupaba el primer puesto por descargas mensuales entre los modelos del perfil oficial de Sakana AI en Hugging Face, con la versión Instruct en segundo lugar. Los recuentos de descargas cambian a diario y no miden la calidad, pero ofrecen una respuesta verificable a qué modelo abierto atrae actualmente más uso. Por eso AIDive publica una ficha sobre una red neuronal concreta, no un artículo general sobre la empresa Sakana AI.
Base o Instruct
Base recibió preentrenamiento adicional con texto en japonés y está pensado para investigación, entrenamiento continuado y tareas de completado de texto. Instruct fue ajustado para comandos y uso conversacional en japonés. Los chats, prototipos de asistente y API locales normalmente deberían empezar con Instruct. Base puede ser más adecuado para ajuste fino personalizado cuando una personalidad de asistente o un comportamiento de chat preexistentes estorbarían.
TAID y la especialización en japonés
TinySwallow se creó con TAID, o Temporally Adaptive Interpolated Distillation. Qwen2.5-32B-Instruct actuó como profesor y Qwen2.5-1.5B-Instruct como alumno. La destilación intenta transferir comportamientos útiles de un modelo más grande a otro más pequeño cuyo funcionamiento cuesta menos. La ficha del modelo indica oficialmente el japonés como idioma. Su base Qwen puede producir salida en inglés u otros idiomas, pero Sakana AI no promete la misma calidad fuera del japonés.
Transformers, vLLM y 3,09 GB de pesos
El archivo principal de pesos Instruct en BF16 ocupa alrededor de 3,09 GB. Se carga mediante Transformers, mientras que el perfil oficial también ofrece un ejemplo de vLLM para servir una API compatible con OpenAI. Existen compilaciones cuantizadas de terceros, pero deben evaluarse por separado. La configuración indica hasta 32.768 posiciones de contexto. Es un límite técnico de ventana, no una garantía de trabajo preciso a lo largo de un documento extenso: un modelo compacto puede perder detalles, alucinar y tener dificultades con razonamientos complejos.
Licencias y límites de un modelo experimental
La página lleva una etiqueta Apache 2.0, pero el modelo deriva de Qwen y también fue entrenado con datos de Gemma. Sakana AI exige explícitamente que los usuarios cumplan tanto los términos de Apache como los términos de Gemma y su política de usos prohibidos. El uso comercial solo está permitido cuando se cumplen ambos conjuntos de requisitos. El desarrollador describe TinySwallow como un prototipo experimental para investigación y desarrollo, por lo que la precisión factual, la seguridad y la idoneidad para una tarea de producción siguen requiriendo pruebas independientes.
