Модель умеет разговаривать, но не умеет считать: как 9B-ассистент собирает корзину, а цену считает код

Сценарий простой и узнаваемый. Покупатель ищет подарок брату до $70, день рождения в пятницу. Локальная модель qwen на 9B разбирает запрос на параметры (бюджет, повод, дедлайн), уточняет недостающее и передаёт их дальше. Тут в дело вступает код: заказ, оформленный не позже чем за 5 рабочих дней до нужной даты, получает скидку 20%. В корзине три подарка на $83.99, к оплате выходит $67.19. Покупатель укладывается в бюджет, а магазин продаёт не одну позицию, а три (habr.com/ru/articles/1088266).

Ценность схемы не в модели, а в разделении ролей. Языковая модель сильна в одном: понять живую формулировку, вытащить параметры и поддержать разговор. Она слаба в другом: считать, помнить правила акций и не выдумывать цифры. Попросите её «посчитать скидку в уме» — получите правдоподобный ответ, который проверяется только вручную. Рабочая граница: разговор отдаём модели, числа отдаём коду.

1. Разговор отдаём модели, арифметику коду. В примере модель не называет ни одной цены: она добывает параметры запроса и просит код посчитать корзину. Если цифру в ответе покупателю может посчитать функция, её должна считать функция.
2. Правила бизнеса живут в коде, а не в промпте. Скидка 20% за заказ от 5 рабочих дней — это строка логики, а не пожелание в инструкции модели. Когда правило меняется, вы правите одну функцию, а не переписываете промпт и не проверяете вручную, не «поплыла» ли формулировка.
3. Маленькой модели достаточно, если оставить ей одну задачу. 9B параметров хватает на диалог и уточнения, потому что каталог, прайс и условия акций лежат в коде и данных. Модель, работающая локально, снимает вопрос оплаты за каждый запрос покупателя.
4. Ассистент обязан уточнять, а не догадываться. «Подарок брату до $70» без повода, даты и вкусов — неполные данные. В разборе модель задаёт вопросы, а не достраивает контекст сама. Качество ассистента видно по числу уточнений до показа корзины, а не по скорости ответа.
5. Воспроизводимость важнее красоты демо. Автор выложил исходники и прогоны в опенсорс, значит сценарий можно повторить и проверить на своих правилах: вы не верите описанию, а прогоняете свои 10 запросов и смотрите, где ассистент ошибается.