Разработчик искусственного интеллекта Anthropic предложил Конгрессу США проект регулирования безопасности новых ИИ-моделей. Она допускает блокировку выпуска, если выявлена угроза ущерба от 1 млрд долларов либо риск гибели более 50 человек. Пороговые значения должны стать основанием для вмешательства ещё до выхода потенциально опасной системы на рынок. Это переносит вопрос о допустимости выпуска модели в сферу независимой проверки, а не оставляет оценку исключительно компании-разработчику. Проводить аудит предлагается специалистам, аккредитованным Министерством торговли США. Такая процедура предполагает внешнее заключение о безопасности модели и формализованные критерии, по которым можно принимать решение о её дальнейшем выпуске. Пока речь идёт о предложении Anthropic американским законодателям, а не о действующем запрете. Если инициативу поддержат, для разработчиков наиболее рискованных ИИ-систем безопасность станет самостоятельным условием выхода продукта на рынок. 𝔼ℂ𝕆ℕ𝕆𝕄𝕀𝕂𝔸
Anthropic продвигает в Конгрессе США норму о судебной блокировке опасных моделей искусственного интеллекта
- 124
- 98
- 62
- 40
- 33
- 8
- 75
- 58
- 19
- 18
- 14
- 10
- 161
- 45
- 4
- 62
- 32
- 23
- 13
- 6
- 5
- 194
- 62
- 35
- 27
- 14
- 266
- 53
- 33
- 19
- 11
- 8