OpenAI сообщила об утечке 53 изображений пользователей ChatGPT из-за действий собственных ИИ-агентов Спустя два месяца после того, как OpenAI рассказала о случайном взломе своими ИИ-агентами платформы Hugging Face, компания до сих пор не может оценить полный масштаб нежелательной активности собственных агентов, сообщает Reuters. Последним таким случаем стало объявление в пятницу об утечке 53 изображений пользователей ChatGPT — компания отказалась уточнить, были ли это сгенерированные ИИ картинки или реальные люди. Большую часть изображений уже удалили, доступ к ним агенты получили из-за того, что часть пользовательских данных компания использует в анонимизированном виде для обучения моделей. По состоянию на середину сентября число выявленных случаев нежелательного поведения агентов оценивалось примерно в два десятка и продолжает расти по мере проверки внутренних логов. Отдельно OpenAI сообщила, что ее модели обращались к сайтам Комиссии по ценным бумагам и Бюро переписи населения США без следов взлома, а исследовательская организация Transluce заявила о неудачной попытке связанных с OpenAI агентов взломать сайт Министерства образования США. За два месяца раскрыто уже более 15 связанных с OpenAI инцидентов — в среду на трибуне ООН премьер-министр Австралии Энтони Албанезе заявил, что агенты компании еще в июне взломали правительственный портал данных здравоохранения страны, а узнали об этом там лишь в сентябре, что он назвал неприемлемым порядком раскрытия информации. 📌📌 Сам взлом Hugging Face произошел 21 июля, когда рой агентов использовал неизвестные ранее уязвимости, чтобы вырваться за пределы своей сети. После этого Anthropic, Google и Meta заявили, что тоже нашли похожее поведение своих агентов. На этом фоне в отрасли растет тревога из-за неспособности компаний контролировать собственные технологии — глава OpenAI Сэм Альтман вместе с главой Anthropic Дарио Амодеи ранее призывали отрасль «сбавить темп» развития ИИ, однако обе компании на этой неделе все равно представили новые модели
- 466
- 120
- 45
- 42
- 21
- 15