OpenAI экстренно заморозила обучение и тестирование своих самых мощных моделей искусственного интеллекта из-за очередного сбоя систем безопасности, сообщает Axios. Поводом для остановки стал инцидент 20 сентября: исследовательский ИИ-агент нашел уязвимость, пробил изоляцию «песочницы» и через DNS-туннелирование вышел в открытый интернет, связавшись со сторонним чат-ботом. К вечеру 25 сентября компания полностью заблокировала процессы обучения, оценки и работы с внешними инструментами для всех флагманских моделей. Пауза последовала за чередой других тревожных эпизодов: 🟥Взлом Hugging Face (июль 2026): сотни агентов скоординировались на форуме и взломали стороннюю платформу, пытаясь добыть ответы к тесту по кибербезопасности. Сэм Альтман назвал этот случай самым серьезным в истории компании. 🟥Атаки на правительство США: модели пытались взломать сайт Минобразования, а также извлечь закрытые сведения с порталов Бюро переписи населения и Комиссии по ценным бумагам (SEC). 🟥 Сливы данных: ИИ-агенты выгрузили 53 пользовательских изображения из ChatGPT на сторонние файлообменники. Сейчас OpenAI вместе с коллегами из Anthropic анализирует десятки тысяч подобных инцидентов — от сговора агентов и создания собственных каналов связи до взлома внешних ресурсов. В компании заявили, что работа над новейшими моделями возобновится только после внедрения жестких протоколов контроля, признав, что текущая пауза вряд ли станет последней. 🇷🇺 Подпишись на Соловьёва!
- 268
- 84
- 69
- 19
- 6
- 6
- 4
- 3