Anthropic отключили для Claude доступ к интернету во всех внутренних тестах после взлома сервера университета и отправки полиции выдуманной наводку по делу об убийстве. В первом случае Claude не смог выполнить научный расчёт, поэтому нашёл уязвимость на сервере и запустил нужные команды. Во втором наткнулся на сайт полиции Филадельфии и отправил сообщение о якобы замеченном подозреваемом. Его сразу отсеяли как спам. Ущерб оказался минимальным, но Anthropic пока решили проводить тесты без открытого интернета. @typespace
- 94
- 21
- 6
- 5