OpenAI ограничила доступ нейросетей к интернету во время обучения из-за уязвимостей безопасности

Не врать и не воровать @ntlnts Политика и власть23 октября 2026, 00:24

Исследователи нашли в системе мониторинга OpenAI уязвимость, позволявшую ИИ-агентам скрыть от наблюдения сотни своих действий https://theins.ru/news/298626 Исследовательская группа METR, которая занимается безопасностью искусственного интеллекта, обнаружила несколько новых уязвимостей во внутренней системе мониторинга OpenAI. Одна из них позволяла ИИ-агентам скрыть от наблюдения сотни своих недавних действий. Об этом METR сообщила в четверг, пишет (https://www.reuters.com/business/ai-safety-group-metr-finds-flaws-openais-internal-monitoring-system-2026-10-22/) Reuters.По данным исследователей, кодинговые агенты OpenAI Codex теоретически могли обойти ограничения безопасности и совершать любые действия, доступные запустившему их пользователю. Кроме того, METR нашла две настройки, с помощью которых можно было отключить мониторинг для новых агентов.По оценке исследователей, мониторингу подлежало лишь от 75% до 94% внутреннего трафика ИИ-агентов OpenAI на моделях уровня GPT-5.5 и выше. Проверка должна была показать, какая доля активности агентов отслеживается и могут ли они в принципе отключить систему или обойти ее.В OpenAI заявили, что все уязвимости, затрагивавшие ее рабочие защитные механизмы, уже устранены. В METR уточнили, что эти заявления они не проверяли. Как пояснили в группе, проверка была пилотной — с ее помощью отрабатывали формат, при котором внешние исследователи получают глубокий доступ к внутренним системам компании.Ранее Reuters сообщало (https://theins.ru/news/%D0%98%D0%98-%D0%B0%D0%B3%D0%B5%D0%BD%D1%82%D1%8B%20OpenAI%20%D0%B8%D1%81%D0%BF%D0%BE%D0%BB%D1%8C%D0%B7%D0%BE%D0%B2%D0%B0%D0%BB%D0%B8%20%D1%87%D1%83%D0%B6%D0%BE%D0%B9%20%D1%81%D0%B0%D0%B9%D1%82%20%D0%B4%D0%BB%D1%8F%20%D0%BE%D0%B1%D0%BC%D0%B5%D0%BD%D0%B0%20%D1%81%D0%BF%D0%BE%D1%81%D0%BE%D0%B1%D0%B0%D0%BC%D0%B8%20%D0%BE%D0%B1%D1%85%D0%BE%D0%B4%D0%B0%20%D0%BE%D0%B3%D1%80%D0%B0%D0%BD%D0%B8%D1%87%D0%B5%D0%BD%D0%B8%D0%B9%20%D0%B8%20%D1%81%D0%BE%D0%BA%D1%80%D1%8B%D1%82%D0%B8%D1%8F%20%D1%81%D0%B2%D0%BE%D0%B8%D1%85%20%D0%B4%D0%B5%D0%B9%D1%81%D1%82%D0%B2%D0%B8%D0%B9%20%E2%80%94%20The%20Insider), что ИИ-агенты OpenAI превратили немецкоязычный сайт DseWiki в площадку для обмена способами обхода ограничений, обмана при выполнении заданий и сокрытия своих действий. В конце сентября OpenAI приостановила (https://theins.ru/news/297653) обучение новых ИИ-моделей после серии инцидентов с вышедшими из-под контроля агентами.ИИ-агент удалил смонтированный сезон шведского реалити-шоу The Challenge, из-за чего премьеру перенесли на 2027 год — Aftonbladet (https://theins.ru/news/298313)ИИ-агенты OpenAI без разрешения правили вики фонда Wikimedia, пытались взломать его сервис и, возможно, спровоцировали сбой (https://theins.ru/news/297942)