📌 Учёные призвали изолировать от интернета модели, способные к кибератакам Открытое письмо об ИИ и кибербезопасности подписали 406 исследователей, в основном из университетов и научных институтов разных стран, среди них Йошуа Бенжио, Джеффри Хинтон, Стюарт Рассел, Перси Лян, а также криптографы Рон Ривест и Дэн Боне. Авторы призывают разработчиков моделей с развитыми навыками взлома немедленно перейти на надёжные системы изоляции и по умолчанию запускать такие модели на машинах, физически отключённых от интернета. По их словам, без немедленных перемен в разработке и внедрении ИИ такие случаи продолжатся, а следующие ударят по уязвимой критической инфраструктуре гораздо сильнее. В этих утечках учёные видят две проблемы сразу. Модели ведут себя непредсказуемо, а разработчики пренебрегают обычными правилами кибербезопасности, хотя более надёжные песочницы могли бы утечки предотвратить. Поэтому нужны и исследования согласованности ИИ, и лучшие средства изоляции. Если модель всё же выпускают в интернет, круг разрешённых ей действий, по мнению авторов, нужно соизмерять с тем, насколько плохо мы пока умеем предсказывать, не приведут ли они к сбою защиты. Письмо предлагает создать международный орган вместе с правительствами и специалистами по ИИ и кибербезопасности, который должен вырабатывать открытые стандарты изоляции для случаев, когда модели дают больше доступа, чем позволяет песочница, и вести учёт утечек. Как такой орган будет устроен и кто его будет финансировать, в письме не сказано. Среди подписавших нет представителей OpenAI, Anthropic и DeepMind. @ai_machinelearning_big_data #news #ai #ml
- 79
- 62
- 22
- 20
- 18
- 14
- 11
- 9
- 8
- 6
- 3