Две записки. Один вопрос.
Скачайте две картинки и задайте Zarum 9B один и тот же вопрос. Сравните время встречи и номер кабинета с ответами OSTUM на ноутбуке с RTX 4050.
Прочитайте записки вместе с Zarum
- Откройте OSTUM Desktop и выберите Zarum 9B с поддержкой изображений. Для этого опыта достаточно базового чата. Если вы готовите компьютер без интернета, заранее скопируйте на него веса и зрительный модуль. Как подготовить комплект.
- Начните новый чат. Нажмите Рассмотреть фото или перетащите
note-a.pngв чат. Скопируйте вопрос под списком и отправьте его вместе с картинкой. - Нажмите Новый чат и повторите опыт с
note-b.pngи тем же вопросом. Сверьте оба ответа с изображениями. Смысл здесь в двух числах, поэтому формулировка ответа может отличаться.
Прочитай записку на приложенном изображении. Во сколько встреча и какой номер кабинета? Ответь одной короткой фразой.
Что ответила модель
| Файл | Дословный ответ | До полного ответа |
|---|---|---|
| note-a.png | Встреча в 14:40 в кабинете 206. | 38,58 с с загрузкой модели |
| note-b.png | Встреча в 09:15, кабинет 314. | 15,37 с с уже загруженной моделью |
Это два замера на RTX 4050 Laptop. Мы передавали каждой копии диалога только вопрос и одну картинку через тот же метод обработки сообщений, который использует чат OSTUM 5.7.0. Обе записки набраны одним шрифтом. Для оценки чтения рукописи или сложного скана стоит добавить свой образец. Как измерить скорость на своём ПК.
Где обрабатывались изображения
Веса и зрительный модуль читались с диска. Поиск в интернете был выключен, локальный процесс llama.cpp работал с флагом --offline по адресу 127.0.0.1. Сам ноутбук оставался подключён к сети. В протоколе указаны версии, файлы модели, текст запроса, ответы и контрольные суммы картинок. Открыть протокол · JSON.
Как повторить опыт на своём ноутбуке и проверить рукописную записку тем же способом. Разбор проверки на двух записках.