❗️Энтузиасты нашли способ заметно ускорить карты серии RTX30xx и RTX40xx — прирост доходит до 60% Но только в задачах локального ИИ. ➖На недорогих видеокартах NVIDIA искусственно ограничивает скорость некоторых матричных вычислений, которые используют нейросети — всё ради повышения продаж более дорогих моделей; ➖Поэтому китайцы нашли гениальное решение — анлокер, который заставляет драйвер Linux «думать», что в систему установлена профессиональная карта на базе той же архитектуры; ➖Он запускается до драйвера видеокарты и снимает ограничение, что в некоторых случаях позволяет усилить итоговую мощность почти вдвое; ➖К примеру, скорость генерации изображений в Stable Diffusion увеличилась примерно на 56–59%; ➖Это даёт ебейший буст для тренировки нейросетей и дообучения; ➖Но есть и минусы — анлокер почти бесполезен в генерации текстов с помощью LLM, так как там упор идёт на пропускную способность памяти видеокарты, ОЗУ и процессора. Тестим ботохуету сами: github.com/Zagitta/gpu-unlock
- 119
- 31
- 29
- 9
- 6
- 1
- 1