Китайцы нашли способ разблокировать всю мощность видеокарт Nvidia — вышел анлокер, который снимает ограничение с карточек серий RTX30xx и RTX40xx. — Nvidia программно блокирует скорость некоторых матричных вычислений, которые используют нейросети; — По слухам, это сделано потому, что жадный дядя Хуанг не хочет, чтобы на дешёвых игровых чипах можно было эффективно запускать и тренировать ИИ; — Анлокер запускается до драйвера видеокарты и снимает это ограничение — итоговая мощность в терафлопсах увеличивается почти ВДВОЕ; — Это даёт мощный буст для тренировки нейросетей и дообучения: если делаете свои LoRA — это подарок для вас; — А еще почти на 60% ускоряет генерацию картинок и видео на локальных моделях; — Минус только один: в генерации текстов с помощью LLM анлокер почти не поможет — там слишком сильный упор идёт на пропускную способность памяти видеокарты, ОЗУ и процессора. Запускаем нейросети вдвое быстрее — здесь. @exploitex
Китайские разработчики создали способы снятия ограничений мощности видеокарт Nvidia для работы с нейросетями
- 378
- 125
- 47
- 32
- 23
- 16
- 436
- 188
- 36
- 29
- 22
- 20
- 119
- 31
- 29
- 9
- 6
- 1
- 108
- 38
- 32
- 15
- 111
- 39
- 9
- 6
- 3
- 1
- 93
- 11
- 5
- 1
- 34
- 10
- 7
- 4
- 1
- 35
- 8
- 1