Запуск нейронки с миллиардами параметров на домашнем компьютере

Технологии и IT3 часа назад

Постов: 6Каналов: 6109.2К

  • L
Бэкдор@whackdoorТехнологии и ITвчера
  • Фото поста канала  Бэкдор

⚡️ Запускаем нейронку на 125 МИЛЛИАРДОВ параметров прямо на домашнем игровом ПК. Свежий опенсорс Strata позволяет локально запустить Qwen3.8-Flash-Next на видеокарте всего с 8 ГБ памяти. Нейронка умеет: • Общаться. • Писать код. • Анализировать изображения. Все данные остаются на компе — никто не сольёт их, не забанит ваш аккаунт и не зарубит цензурой за невинный вопрос. В наше время это мастхэв — тут. 👍 Бэкдор

  • 44
  • 22
  • 12
1337 @media1337Технологии и IT7 часов назад
  • Фото поста канала 1337

Запускаем нейронку на 125 миллиардов параметров прямо на домашнем игровом ПК. Свежий опенсорс Strata позволяет локально запустить Qwen3.8-Flash-Next на видеокарте всего с 8 ГБ памяти. Что умеет нейронка: • общаться • писать код • анализировать изображения Главное — все данные остаются на вашем компе. Никто ничего не сольёт, не забанит аккаунт и не зарубит ответ цензурой за невинный вопрос. Пробуем — тут. 🌒 1337

  • 65
  • 14
  • 12
  • 2
Не баг, а фича@bugnotfeatureТехнологии и IT3 часа назад

Для генерации видео хватит 8 ГБ видеопамяти — нашли опенсорсную тулзу для локального запуска MiniMax H3! С ней для полноценного продакшена хватит видеокарты на 8 ГБ и 16 ГБ оперативы. 🔅 Проект подстраивается под железо и подгружает части модели; 🔅 Работает внутри ComfyUI — даёте промпт, первый и последний кадры, нужные пикчи, а также рефы (ролики, аудио и тд). 🔅 Десятисекундный ролик в 1344 × 768 на RTX 4060 Ti с 16 ГБ памяти генерится около девяти минут — придётся подождать. 🔅 Доступны вид...

  • 28
  • 13
  • 8
  • 1
LOLZTEAM@lolz_legalТехнологии и IT5 часов назад

🤯 Запускаем 125-миллиардную нейронку прямо на домашнем ПК Опенсорсный Strata позволяет локально гонять Qwen3.8-Flash-Next без серверов и облаков: ➖ Модель умеет общаться, писать код и анализировать изображения, а все данные остаются на вашем компьютере. ➖ Для запуска нужна видеокарта NVIDIA или AMD с 12 ГБ VRAM и больше, а также минимум 32 ГБ оперативки. На 64 ГБ RAM доступны все основные сборки модели. ➖ Никаких аккаунтов и внешних серверов – всё работает локально. Забираем – тут. Тем врем...

  • 14
  • 6