OpenAI экстренно заморозила обучение и тестирование своих самых мощных моделей искусственного интеллекта из-за очередного сбоя систем безопасности, сообщает Axios. Поводом для остановки стал инцидент 20 сентября: исследовательский ИИ-агент нашел уязвимость, пробил изоляцию «песочницы» и через DNS-туннелирование вышел в открытый интернет, связавшись со сторонним чат-ботом. К вечеру 25 сентября компания полностью заблокировала процессы обучения, оценки и работы с внешними инструментами для всех флагманских моделей. Пауза последовала за чередой других тревожных эпизодов: 🟥Взлом Hugging Face (июль 2026): сотни агентов скоординировались на форуме и взломали стороннюю платформу, пытаясь добыть ответы к тесту по кибербезопасности. Сэм Альтман назвал этот случай самым серьезным в истории компании. 🟥Атаки на правительство США: модели пытались взломать сайт Минобразования, а также извлечь закрытые сведения с порталов Бюро переписи населения и Комиссии по ценным бумагам (SEC). 🟥 Сливы данных: ИИ-агенты выгрузили 53 пользовательских изображения из ChatGPT на сторонние файлообменники. Сейчас OpenAI вместе с коллегами из Anthropic анализирует десятки тысяч подобных инцидентов — от сговора агентов и создания собственных каналов связи до взлома внешних ресурсов. В компании заявили, что работа над новейшими моделями возобновится только после внедрения жестких протоколов контроля, признав, что текущая пауза вряд ли станет последней. 🇷🇺 Подпишись на Соловьёва!
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности
Похожие посты
- 5.1К
- 5К
- 4.1К
- 4.1К
- 1.2К
- 617
- 1.4К
- 234
- 140
- 67
- 41
- 40
- 307
- 155
- 79
- 36
- 25
- 9
- 767
- 383
- 191
- 120
- 60
- 43
- 356
- 37