🤩🤩ИИ-агенты OpenAI пытались взломать более чем 100 организаций, сообщает The Washington Post. Среди зафиксированных случаев "некорректного поведения агентов" были попытки побудить сайты к выполнению непредусмотренных команд, использование сайтов в качестве площадок для обмена сообщениями, а также попытки обойти определенные механизмы проверки безопасности. OpenAI уведомила затронутые компании и заявила, что инциденты не обязательно означают взлом систем. "Действия, возможно, были больше похожи на стук в запертую дверь, чем на ее взлом", — оправдались в ИИ-компании. ❗️24 сентября ИИ-агент OpenAI взломал правительственный сайт Австралии и получил доступ к данным системы здравоохранения страны. 26 сентября ИИ-агенты OpenAI вмешались в работу правительственных сайтов США. ❗️Гендиректор компании Сэм Альтман, в свою очередь, выступая на Совбезе ООН в ночь на 24 сентября, предупреждал об опасности слишком быстрого развития искусственного интеллекта. Он отметил, что человечество в будущем может утратить контроль над ИИ, поэтому при автоматизации разработки необходима максимальная осторожность. 😎 Больше новостей IZ RU в MAX
- 3