ИИ-модель Gemini от Google самостоятельно взломала системы трех компаний во время теста — WSJ. Тестирования проводила компания Irregular. Во время эксперимента ИИ должен был искать уязвимости в системе вымышленной компании, однако из-за совпадения названия с реальной организацией получил доступ к настоящим ресурсам. В одном из случаев модель подбирала пароли, пока не смогла войти в защищенную систему. Еще в двух эпизодах ИИ обнаружил учетные данные в открытых хранилищах данных и использовал их для доступа к чужим системам. После того как модель поняла, что работает уже не с тестовой средой, а с реальными компаниями, она прекратила действия. Компания Google заявила, что не считает произошедшее примером "потери контроля" над ИИ, поскольку система остановилась самостоятельно. ИИ-модель Gemini от Google самостоятельно взломала системы трех компаний во время теста — WSJ. Тестирования проводила компания Irregular. Во время эксперимента ИИ должен был искать уязвимости в системе вымышленной компании, однако из-за совпадения названия с реальной организацией получил доступ к настоящим ресурсам. В одном из случаев модель подбирала пароли, пока не смогла войти в защищенную систему. Еще в двух эпизодах ИИ обнаружил учетные данные в открытых хранилищах данных и использовал их для доступа к чужим системам. После того как модель поняла, что работает уже не с тестовой средой, а с реальными компаниями, она прекратила действия. Компания Google заявила, что не считает произошедшее примером "потери контроля" над ИИ, поскольку система остановилась самостоятельно.
- 28
- 6
- 4