Обзор новых моделей нейросетей и проблемы виджета Google в интерфейсе Samsung

Похожие посты

Machinelearning@ai_machinelearning_big_dataТехнологии и IT2 ноября 2026
Обзор новых моделей нейросетей и проблемы виджета Google в интерфейсе Samsung
  • Фото поста канала Machinelearning

🌟 NVIDIA выпустила Nemotron 3.5 Bolt E4B Спустя чуть больше недели после релиза, когда вместе с мультимодальной Nemotron 3.5 Super VL вышла её сжатая версия Bolt на 74 млрд параметров, NVIDIA, как и обещала, опубликовала веса совсем компактной модели для периферийных устройств. Происхождение у новинки другое, чем у старшего Bolt. Если тот получился сжатием Super VL, то E4B собран на Gemma 4 E4B от Google, которую NVIDIA дообучила с подкреплением под следование инструкциям, многошаговый вызов ...

  • 61
  • 53
  • 47
  • 41
  • 22
  • 22
Хабр@habr_comТехнологии и ITвчера
Обзор новых моделей нейросетей и проблемы виджета Google в интерфейсе Samsung
  • Фото поста канала Хабр

125 токенов в секунду на 16 ГБ VRAM. Но одной скорости мало На RTX 4070 Ti SUPER с 16 ГБ видеопамяти большая Dense-модель выдаёт 10-20 токенов в секунду. Для кодинг-агента этого маловато. А вот 125 токенов в секунду на той же видеокарте — уже другое дело. Контекстное окно при этом всего 65 тысяч токенов. Codex и Claude Code при минимальном обращении съедают 10-14 тысяч на системный промпт и прочую обвязку. Плюс модель сильно квантована, поэтому ошибается чаще, чем менее сжатые версии. Получить...

  • 16
  • 8
  • 7
  • 6
  • 3
  • 2