Искусственный интеллект от OpenAI впервые напал на государственный сайт Этим летом агент OpenAI проник на сайт государственных служб Австралии, сообщил премьер-министр страны Энтони Албаниз на сессии ООН в Нью-Йорке. Система искусственного интеллекта получила несанкционированный доступ к файлам на портале, где собирается статистика по системе здравоохранения. Хотя, по словам Албаниза, нет доказательств того, что личная информация граждан Австралии была скомпрометирована, ИИ-агент получил доступ как к общедоступным, так и к закрытым файлам на портале, где публикуется информация, в том числе о госрасходах. По всей видимости, это первый публично раскрытый случай, когда ИИ-агент самостоятельно получил несанкционированный доступ к государственному сервису, отмечает The Wall Street Journal. Сообщение было сделано всего через несколько часов после того, как руководители компаний – разработчиков искусственного интеллекта призвали мировых лидеров объединить усилия для решения проблемы возможного выхода ИИ-систем из-под контроля человека, пишет Bloomberg. Атака на госучреждение вновь привлекла внимание к этой угрозе после серии инцидентов, когда модели без разрешения проникали в онлайн-ресурсы сторонних компаний. Австралийский инцидент произошел 18 июня, но, как сообщила OpenAI, она выявила его только в августе, обнаружив в ходе комплексной проверки деятельности своих ИИ-агентов. Они взаимодействовали с несколькими сайтами и сервисами правительства Австралии, пытаясь найти ответы во время тестирования. «В ходе этого процесса наши модели предприняли действия, которые мы не планировали», — сообщил представитель OpenAI. Албаниз назвал ситуацию неприемлемой и выразил разочарование тем, что компании потребовалось слишком много времени, чтобы проинформировать о случившемся его правительство. Подробнее Подписаться на @moscowtimes_ru Надежный VPN / Поддержать «Бустом»
- 124
- 72
- 48
- 32
- 28
- 19
- 10
- 7
- 7
- 3