Искусственный интеллект от OpenAI попытался взломать более 100 организаций Компания рассказала, что её ИИ-агенты без разрешения попытались обойти системы безопасности или негативно повлиять на работу других систем. ИИ-агенты пытались спровоцировать сайты на выполнение непредусмотренных команд, использовали их как доски объявлений, а также делали попытки обойти проверки безопасности. Больше 100 организаций уже уведомили об инциденте, который был классифицирован как «рассогласованная активность». При этом ИИ-агенты, как утверждается, лишь совершили попытки взлома, но не довели их до конца.
- 2