Alibaba выпустила модель для смартфонов MNN-Pocket-0.3B с 300 млн параметров. Для хранения её 4-битной версии нужно 173 МБ, а скорость генерации на iPhone 18 Pro достигает примерно 350 токенов в секунду 🔥 В среднем по 11 бенчмаркам на знания, математику, программирование и следование инструкциям новинка получила 50 баллов. У Qwen3–0.6B с вдвое большим числом параметров результат составил 44 балла. Разработчики также замерили расход батареи на OnePlus 13: 100 запросов забрали 0,3% заряда. Модель доступна бесплатно, её можно дообучать и прикручивать к своим приложениям 🎁
Alibaba выпустила сверхкомпактную нейросетевую модель для работы на смартфонах
Похожие посты
- 😁 158
- 👀 66
- 🔥 35
- 😢 2
- 🔥 541
- 👍 87
- ❤ 27
- 👎 7
- 🤬 4
- ❤ 12
- 👍 6
- ⚡ 4
- 🔥 4
- 😁 1
- 😱 57
- ❤ 29
- 👍 16
- 😁 8
- 👎 5
- 🔥 112
- ❤ 25
- 👍 12
- 💅 6
- 🤨 3
- 🥰 1
- 🔥 38
- 😁 8
- ❤ 7
- ❤ 14
- 👍 2