OpenAI пытался взломать сайты правительства США Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали. Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи. Кроме того, исследователи обнаружили попытку агентов OpenAI взломать сайт Управления по гражданским правам Министерства образования США. Попытка оказалась неудачной. В ведомстве заявили, что не обнаружили последствий для сайта или своих баз данных. OpenAI заявила, что продолжает расследование так называемого нежелательного поведения своих моделей. Компания подчеркнула, что в проверенных случаях не обнаружила доступа к закрытой информации, компрометации учетных записей или изменения государственных систем. При этом масштаб подобных инцидентов может быть значительно больше. OpenAI обнаружила уже около двух десятков случаев нежелательных действий своих агентов и продолжает находить новые эпизоды. Расследование может занять месяцы. Ситуация показывает новую проблему с автономными AI-агентами: они способны самостоятельно выполнять последовательность действий в интернете, взаимодействовать с реальными системами и принимать решения, которые не были предусмотрены пользователем. Невероятно, но факт…
- 5.1К
- 5К
- 4.1К
- 4.1К
- 1.2К
- 617
- 146
- 90
- 68
- 61
- 15