Восстание машин все ближе? ИИ хотят «выключать» при риске массовой гибели людей Пока нейросети становятся все умнее, для них уже готовят судебный «стоп-кран». Компания Anthropic продвигает в Конгрессе США инициативу, которая позволит через суд блокировать выпуск и использование передовых ИИ-моделей, пишет Politico со ссылкой на источники. Но одного страха перед восстанием машин будет недостаточно — потребуются доказательства, что система создает неизбежный риск ущерба минимум на $1 млрд либо гибели или серьезного травмирования более 50 человек. Под судебный запрет могут попасть модели, угроза от которых связана с созданием или применением биологического оружия, выходом из-под контроля разработчика или кибератакой. Одним «рубильником» инициатива не ограничивается: разработчиков хотят обязать внедрять внутренние системы контроля безопасности, публиковать отчеты о новых моделях, защищать сотрудников от преследования и докладывать Минторгу США о серьезных сбоях. 🎉 Подписывайся на Readovka в МАКС
- 124
- 98
- 62
- 40
- 33
- 8
- 7
- 3
- 3