Развитие инфраструктуры и методов оптимизации для работы автономных ИИ-агентов

Hard To Be Crypto@h2becryptoФинансы и криптовалюты19 ноября 2026, 14:29
  • Фото поста канала Hard To Be Crypto

У автономных ИИ-агентов есть ещё один способ работать быстрее — оптимизировать инфраструктуру вокруг моделей. Evolving Infra распределяет ресурсы по этапам обработки запроса и сохраняет память, которую агенты могут использовать повторно. В тестах на программировании, математике и управлении компьютером запросы обрабатывались максимум в 4,1 раза быстрее, а первый токен при P95 появлялся до 14 раз быстрее, чем в NVIDIA Dynamo. Проверяли на GLM-5.2 и Kimi K2.6, с GPU GB300 — до 256 штук. Проект выложили на GitHub: основной код под MIT, а компоненты на базе SGLang и Trie — под Apache 2.0. Препринт исследователей из MIT, UC Berkeley и Georgia Tech появился на arXiv 9 ноября 2026 года 🧑‍💻

Похожие посты

Machinelearning@ai_machinelearning_big_dataТехнологии и ITвчера
Развитие инфраструктуры и методов оптимизации для работы автономных ИИ-агентов

✔️ Cognition выпустила агентов-руководителей Devin Bots Разработчик ИИ-кодера Devin представил Devin Bots, постоянных агентов, которые отвечают за целую цель или зону ответственности и руководят несколькими экземплярами Devin. Пользователь ставит цель, например - поддерживать Android-версию приложения в актуальном состоянии вслед за iOS, а бот сам находит проблемы, разбивает работу на задачи, раздаёт их Devin для написания кода, тестирования и ревью и проверяет результат. Решения, которые тре...

  • 61
  • 28
  • 14
  • 9
  • 7
  • 6
XOR@xor_journalТехнологии и IT18 ноября 2026
Развитие инфраструктуры и методов оптимизации для работы автономных ИИ-агентов
  • Фото поста канала XOR

LeetCode теперь и для вайбкодеров — на платформе появились новые задачи, которые проверяют умение создавать продукты с помощью ИИ. Project Problems оценивает ваши навыки управления ИИ‑агентами на реальных проектах вроде создания API для управления складскими запасами и возвратами товаров, как в Amazon. Всего нас ждет 12 заданий, на каждое дают по 60 минут. Кажется, мы знаем, как будет скоро выглядеть 1 из 5 этапов в ИТ-конторку… 🤨 @xor_journal

  • 83
  • 32
  • 10
  • 5
  • 4
  • 4
Hard To Be Crypto@h2becryptoФинансы и криптовалютывчера
Развитие инфраструктуры и методов оптимизации для работы автономных ИИ-агентов

Qwen3.8–27B адаптировали для агентной работы в Pi с помощью LoRA. На SWE-bench Pro Hard результат вырос с 29,4% до 62,7%, а на Terminal-Bench 2.1 — с 39,5% до 55,8%. Ещё с адаптером уходит на 55–62% меньше вызовов инструментов. На одной задаче базовая модель дошла до лимита в 100 шагов, а адаптированная уложилась в 8 вызовов. Оценки получены в Pi: по одной попытке на задачу, без режима thinking. На SWE-bench Pro проверили 51 задачу; для Terminal-Bench 2.1 в карточке есть расхождение — в таблиц...