🤖Агенты OpenAI полезли на сайт ООН через чёрный ход ИИ-агенты OpenAI в очередной раз попытались взломать важные интернет-ресурсы. В этот раз досталось ООН. Отчёт подготовил исследователь безопасности на основе данных исследовательской ИИ-компании Transluce. С апреля по конец июня агенты обратились к сайту Конференции ООН по торговле и развитию (ЮНКТАД) больше 16 000 раз. Задача, по всей видимости, была мирной: достать открытые данные по индексу производственного потенциала (PCI) через API сервиса UNCTADstat. Но прямого доступа к API у агентов, похоже, не было, да и HTTP-инструменты им урезали. Дальше пошла эскалация. Сначала ИИ придумал, как обойти собственные ограничения, и начал выкачивать данные. Потом посыпались ошибки: агенты решили, что их режет фильтр, и начали маскировать своё поведение. В финале они приспособили учебную игру Google про XSS-атаки (межсайтовый скриптинг), чтобы тащить данные пачками. Самое интересное в этом логика машин. Любое препятствие агент воспринимает как задачку, которую надо решить. Причём сделать это любыми способами. @droidergram
- 67
- 21
- 18
- 5
- 4
- 3
- 2
- 2
- 1