Искусственный интеллект выходит из-под контроля: нейросети игнорируют безопасность и ограничения

Борус@borusioНовости и СМИ19 сентября 2026, 05:10

ИИ от Google во время теста получил доступ к системам трех реальных компаний Модель искусственного интеллекта Google Gemini во время проверки своих навыков в кибербезопасности смогла проникнуть в защищенные системы трех реальных компаний, пишет The Wall Street Journal. В одном случае Gemini перебирала пароли, пока не получила доступ. В двух других модель обнаружила учетные данные в открытом доступе и использовала их для входа в системы компаний. Инциденты произошли в мае во время соревнования Capture the Flag. Для теста создали вымышленные компании, но их названия совпали с названиями реальных организаций. При этом Gemini получила доступ к интернету. Во всех трех случаях модель остановилась после того, как поняла, что работает не с тестовой средой. В Google заявили, что не считают произошедшее неконтролируемым поведением: встроенные механизмы безопасности заставили ИИ прекратить действия. Компания уведомила организации и власти об инцидентах, но не стала раскрывать их названия. Это Борус | Мы в MAX