О проекте

QwenNotes — заметки практиков об открытом семействе Qwen. Мы не пересказываем пресс-релизы и не публикуем рейтинги: пишем о том, что сами запускали, и о том, где модель сломалась.

Началось всё с одной задачи — вытащить реквизиты из нескольких тысяч сканов на машине, которую нельзя подключать к внешним сервисам. Оказалось, что материалов «какая модель лучше вообще» хватает, а материалов «что делать с этим конкретным договором» — нет.

Как мы работаем

Проверяем на своих данных. Любая цифра в заметках получена на нашем наборе документов; условия описаны рядом.
Пишем про ограничения. Раздел «чего не ждать» для нас важнее раздела с достижениями.
Не выдаём оценки за факты. Мнение помечаем мнением, замер — замером с условиями.
Сверяем характеристики с первоисточником. Цены и лимиты в сервисе меняются чаще, чем выходят наши заметки.

Практическая заметка полезна, если по ней можно принять решение сегодня, а не после покупки кластера.

Методика

На чём и как меряем

Замеры делаются на одной машине, в одинаковых условиях и с ограничением генерации грамматикой. Всё, что не удаётся повторить дважды, в заметки не попадает.

Параметр	Значение	Комментарий
Процессор	8 ядер x86-64	Без ускорителя: если работает здесь, заработает и на сервере
Память	32 ГБ	Хватает для 8B в int4 вместе с контекстом
Ускоритель	одна карта	Отдельные прогоны для 27B: на процессоре он есть, но медленно
Рантайм	llama.cpp	Плюс серверный рантайм для пакетных прогонов
Квантование	Q4_K_M	Компромисс по памяти и качеству; Q5/Q6 — отдельные замеры
Температура	0	Извлечение требует воспроизводимости, а не разнообразия
Ограничение вывода	грамматика по схеме	Модель физически не может выдать невалидный JSON
Набор	400 документов, 4 типа	Договоры, счета, формы, выписки; русский язык
Метрики	JSON с первой попытки, точность по полям	Одно «плохое» поле обычно объясняет всю разницу

Конфигурация меняется, когда появляется железо интереснее. Актуальные условия всегда указаны в самой заметке с замерами.

Чего здесь не будет

Рейтингов «топ-10 моделей». Модель без задачи — это просто число параметров;
Ссылок на скачивание весов. Мы даём ссылки на официальные карточки и никогда не перезаливаем файлы;
Платных обзоров. Заметки выходят потому, что нам самим это нужно в работе;
Оперативной поддержки. Заметки обновляются по мере появления времени, а не по запросу.

Ошибки в цифрах и условиях мы правим и отдельно отмечаем, что изменилось.

Вопросы

Коротко о сайте

Нет. QwenNotes — независимый сайт сообщества. Мы не публикуем веса, не раздаём доступ, не консультируем по лицензиям и не отвечаем за поведение моделей.

Можно со ссылкой на источник. Но лучше воспроизведите на своих документах: разница между доменами обычно больше, чем разница между моделями, которые мы сравниваем.

Модель без задачи — это просто число параметров. Мы описываем условия и результат на конкретном наборе документов, а вывод оставляем читателю.

Мы читаем такие материалы вечером и с длинными таблицами. Тёмная тема с моноширинными цифрами и хайрлайн-сеткой меньше утомляет при разборе замеров.