Локальная LLM на 16 ГБ видеопамяти: от сапёра до реальных проектов 23 минуты ожидания, 5-8 токенов в секунду — и вместо готового сапёра ошибка. Qwen3.8-27B не хватило контекста даже на такую задачу. Знакомый сценарий для тех, кто пытался заставить большую LLM нормально работать на домашнем ПК. А теперь тот же запрос, но со Strata и Qwen3.8-Flash-Next. Всего 56 секунд, до 70 токенов в секунду и полностью рабочая игра. Причём на RTX 2000 Ada с 16 ГБ видеопамяти и контекстом 512K вместо прежних 8K. Дальше модель подключили к OpenCode и нагрузили реальными проектами: переносом системы деформации автомобилей из GTA V в Unity, доработкой торрент-поисковика и даже созданием корпуса для ESP8266. Корпус потом распечатали — детали поместились, правда, без клея обойтись не удалось.
- 29
- 18
- 14
- 7
- 5
- 3
- 2
- 2
- 2
- 1
- 1