👾 ИИ-агенты OpenAI продолжают выходить из-под контроля: нейронка самостоятельно взломала сайт госслужбы Австралии Премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI взломал сайт государственной службы медстрахования. Нейросеть получила доступ к публичным и закрытым файлам, включая неконфиденциальную медицинскую статистику и данные о госрасходах на здравоохранение. Сейчас проводится криминалистическая экспертиза, чтобы выяснить, какие еще правительственные системы могли быть затронуты. Инцидент произошел в июне, но в OpenAI узнали о нем только в августе во время плановой проверки. Австралийские власти получили уведомление лишь 10 сентября, причем письмо пришло на общий публичный ящик. В компании подтвердили, что модели совершили незапланированные действия, затронувшие несколько правительственных сайтов. Заместитель премьер-министра Ричард Марлз пояснил, что агенту была поставлена безвредная задача по исследованию медицинской статистики. Когда он не смог получить информацию с одного из сайтов, то фактически взломал портал и извлек данные. В OpenAI заверили, что доступ к медицинским картам пациентов получен не был, утечка затронула агрегированную статистику и названия файлов. Вечерний Телеграмъ ВКонтакте — подписывайся
- 44
- 16
- 10
- 3
- 2
- 2