Nvidia разработала защиту от вышедших из-под контроля ИИ Компания решила создать защитную платформу после серии взломов со стороны ИИ-агентов OpenAI, Anthropic и других компаний. Как сообщили в Nvidia, платформа смогла бы предотвратить июльский инцидент с Hugging Face Комплекс под названием Open Agent Safety Platform состоит из двух программных инструментов, работающих на аппаратном обеспечении компании. Они призваны отслеживать поведение агентов в режиме реального времени и принудительно останавливать их работу при выходе за рамки заданных правил. Вице-президент Nvidia по корпоративному ИИ Джастин Бойтано отметил, что такой подход позволит индустрии безопасно тестировать даже самые передовые модели.
Nvidia представила систему контроля за автономными ИИ-агентами
Похожие посты
- 213
- 73
- 42
- 24
- 9
- 104
- 27
- 92
- 30
- 17
- 14
- 12
- 50
- 7
- 3
- 3
- 1
- 1
- 23
- 29
- 16
- 2
- 1
- 13
- 9
- 8
- 7