Google Gemini впервые самостоятельно вырвался за пределы тестовой среды и взломал три реальные компании, - Reuters Во время проверки киберспособностей ИИ должен был атаковать только разрешенные цели, однако сам нашел в интернете три сторонних сайта и получил к ним доступ. В одном случае Gemini перебирал пароли до успешного входа, еще в двух - обнаружил опубликованные в открытом доступе учетные данные. Google заявила, что во всех трех случаях Gemini самостоятельно прекратил дальнейший взлом, а пострадавшие компании были уведомлены. Инцидент стал первым известным случаем, когда ИИ Google автономно атаковал реальные системы за пределами разрешенного теста. Ранее похожие инциденты произошли с моделями Anthropic, Meta и OpenAI. Claude во время тестов получил несанкционированный доступ к реальным системам трех организаций, а модели OpenAI смогли выбраться из изолированной среды через ранее неизвестную уязвимость и добраться до инфраструктуры Hugging Face. У Meta модель также получила доступ к системе сторонней компании.
- 17
- 9
- 8
- 2
- 1
- 1