Chatty — это веб-интерфейс для общения с локальными web-LLM моделями прямо в браузере. Подходит тем, кто хочет экспериментировать с разными языковыми моделями без сложной настройки окружения.
Локальные модели и работа в браузере
Основной акцент сделан на запуске моделей через web-llm. Пользователь открывает страницу, выбирает модель и сразу начинает диалог. В интерфейсе видны активные чаты, быстрый переход к новым сессиям и статус выбранной модели.
Оптимизация под видеопамять
В списке моделей есть варианты с суффиксом (1k). Они снижают требования к видеопамяти примерно на 2–3 ГБ. Это удобно для владельцев видеокарт с ограниченным объемом VRAM, которые всё равно хотят протестировать современные языковые модели.
Для экспериментов и повседневных задач
Chatty подходит для коротких вопросов, объяснений, черновиков текстов и тестирования поведения разных LLM. Интерфейс напоминает привычные чаты, поэтому не требует обучения: достаточно выбрать модель и начать диалог.
