OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

Варламов@varlamov_newsНовости и СМИ27 сентября 2026, 09:03

Компании OpenAI и Anthropic совместно с внешними специалистами по безопасности расследуют десятки тысяч инцидентов, когда их передовые ИИ-модели вели себя некорректно, рассказали источники издания Axios: • Эпизоды включают в себя попытки обхода защитных механизмов и захват сайтов. Большинство случаев не причинили реального вреда, иногда ИИ-модели провоцировали специально. • О многих инцидентах еще не сообщалось публично, по ним продолжаются расследования. • Представитель OpenAI сообщил, что компания вновь приостанавливает обучение своих передовых моделей и возобновит его только «когда будет уверена в наличии дополнительных мер безопасности». • Самым серьезным инцидентом считается взлом ИИ-платформы Hugging Face, о котором стало известно в июле. • Полученные данные ставят под сомнение способность любого ведущего ИИ-разработчика установить полный контроль над своей технологией. • Опрошенные эксперты считают, что полностью исключить риск некорректного поведения моделей, вероятно, невозможно.