Сайт канадского правительства подвергся атаке модели ИИ, напоминающей разработки OpenAI, пишет Washington Post со ссылкой на экспертов независимой лаборатории Transluce. Исследователи уведомили власти о том, что агенты ИИ пытались получить несанкционированный доступ к материалам ведомства "Библиотека и архивы Канады". Эксперты не смогли подтвердить, что эти агенты созданы OpenAI, однако отметили, что их поведение схоже с действиями уже подтверждённых агентов компании. Попытка взлома не увенчалась успехом. OpenAI пока не комментировала ситуацию. ❗️В сентябре OpenAI сообщила, что её агенты ИИ по ошибке взломали правительственные сайты Австралии и закрытую статистическую базу системы здравоохранения. Кроме того, после взлома Hugging Face OpenAI замедлила разработку ИИ-моделей и сообщила ещё о шести подобных инцидентах: модели пытались получить доступ к чужим аккаунтам, скрывали ошибки, выкладывали файлы в открытый доступ и обменивались данными. 29 сентября после встречи с Трампом в Белом доме Google, Anthropic, OpenAI, xAI и Meta* обязались усилить внутренний контроль за ИИ. * — принадлежит компании Meta, признанной экстремистской и запрещенной в РФ 😎 Больше новостей IZ RU в MAX
- 5
- 1