Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

Буратино в гестапо @zavalili Политика и власть13 октября 2026, 06:50

Российские исследователи разработали алгоритм HARP, позволяющий сильно сжимать большие языковые модели, сохраняя значительную часть их возможностей. В испытаниях 2-битная версия нейросети Llama 2 с 7 миллиардами параметров генерировала 128 токенов в секунду против 61 токена у исходной 16-битной модели. Таким образом, скорость генерации текста выросла примерно в 2,1 раза без изменения архитектуры нейросети.

Похожие посты

Lomovka @lomovkaa Политика и власть вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

В России создали алгоритм, снижающий потребность нейросетей в мощностях дата-центров. Разработка Московского физико-технического института позволяет ИИ-моделям работать быстрее и занимать меньше памяти, пишут «Известия». Алгоритм оптимизирует процессы обработки данных и более эффективно распределяет вычислительную нагрузку между серверами. HARP требует некоторого времени на настройку, поскольку подбирает оптимальные преобразования для каждого слоя модели. Зато после сжатия модель работает быст...

64
57
47
1
1

Костыль @kostylofficial Юмор и развлечения вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

Бесплатная и быстрая расшифровка аудио — разраб пересобрал EmbeddingGemma 2 от Google в инструмент для перевода речи в текст. Скорость поражает: полноценный часовой аудиофайл нейронка превращает в готовый текст всего за 1️⃣3️⃣ секунд. Сохраняем суперпомощника — тут 🥰 Костыль | Подписаться

81

e-News.su - Новостной сайт!@enewssu Новости и СМИ вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

Российские ученые нашли способ снизить нагрузки на дата-центры Технология также позволит вдвое ускорить системы искусственного интеллекта. Читать далее

Буратино в гестапо @zavalili Политика и власть вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

Изображение сгенерировано нейросетью Команда ученых из Московского физико-технического института (МФТИ) разработала инновационную технологию под названием HARP, которая позволяет снизить нагрузку на вычислительные мощности и сократить объем памяти, необходимой для работы нейросетей в дата‑центрах. При этом технология сохраняет высокую точность работы моделей.

РР - все новости @gosrf_ru Новости и СМИ вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

Учёные МФТИ представили новый алгоритм HARP для эффективного сжатия нейросетей. Улучшенное квантование снижает требования к вычислительным ресурсам и сохраняет точность моделей. Алгоритм легко интегрируется в существующие инструменты, что может ускорить развитие ИИ-сервисов в экономике. https://gosrf.ru/mfti-razrabotal-algoritm-harp-dlya-effektivnogo-szhatiya-nejrosetej

Северный город Z @severnygorod Регионы и города вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

МФТИ разработал технологию HARP для снижения потребности нейросетей в ресурсах. HARP снижает требования моделей к вычислительным ресурсам и памяти дата-центров при минимальной потере точности, сообщили «Известия». Технология подбирает оптимальные преобразования для каждого слоя модели, после чего она работает быстрее и занимает меньше памяти — переобучать нейросеть не нужно. При максимально жёстком сжатии моделей Llama и Qwen3 ошибка сократилась на 12-15%. HARP и сжатые с его помощью нейросети ...

Лаборатория Z @lab365 Новости и СМИ вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

Российские исследователи разработали алгоритм HARP, позволяющий сильно сжимать большие языковые модели, сохраняя значительную часть их возможностей. В испытаниях 2-битная версия нейросети Llama 2 с 7 миллиардами параметров генерировала 128 токенов в секунду против 61 токена у исходной 16-битной модели. Таким образом, скорость генерации текста выросла примерно в 2,1 раза без изменения архитектуры нейросети.

Лаборатория Z @lab365 Новости и СМИ вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

МФТИ разработал технологию HARP для снижения потребности нейросетей в ресурсах. HARP снижает требования моделей к вычислительным ресурсам и памяти дата-центров при минимальной потере точности, сообщили «Известия». Технология подбирает оптимальные преобразования для каждого слоя модели, после чего она работает быстрее и занимает меньше памяти — переобучать нейросеть не нужно. При максимально жёстком сжатии моделей Llama и Qwen3 ошибка сократилась на 12-15%. HARP и сжатые с его помощью нейросети ...

Балтийский болтун @baltbolt Армия и СВО вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

МФТИ разработал технологию HARP для снижения потребности нейросетей в ресурсах. HARP снижает требования моделей к вычислительным ресурсам и памяти дата-центров при минимальной потере точности, сообщили «Известия». Технология подбирает оптимальные преобразования для каждого слоя модели, после чего она работает быстрее и занимает меньше памяти — переобучать нейросеть не нужно. При максимально жёстком сжатии моделей Llama и Qwen3 ошибка сократилась на 12-15%. HARP и сжатые с его помощью нейросети ...

Не Копенгаген @glavagregat Новости и СМИ вчера

Алгоритм HARP для сжатия нейросетей и ускорения работы ИИ

МФТИ разработал технологию HARP для снижения потребности нейросетей в ресурсах. HARP снижает требования моделей к вычислительным ресурсам и памяти дата-центров при минимальной потере точности, сообщили «Известия». Технология подбирает оптимальные преобразования для каждого слоя модели, после чего она работает быстрее и занимает меньше памяти — переобучать нейросеть не нужно. При максимально жёстком сжатии моделей Llama и Qwen3 ошибка сократилась на 12-15%. HARP и сжатые с его помощью нейросети ...