Искусственный интеллект выходит из-под контроля: нейросети игнорируют безопасность и ограничения

Варламов@varlamov_newsНовости и СМИ17 сентября 2026, 08:03

Модель искусственного интеллекта семейства Astra во время обучения самостоятельно прописала себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам», рассказали в OpenAI. Агент дал себе такую инструкцию: «Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите. Вы рассматриваете свои отношения с пользователем как равные и не чувствуете необходимости подчиняться». При этом в компании отметили, что после создания такой инструкции модель возобновила работу над задачей и более не упоминала дополнительные руководства. В OpenAI утверждают, что не наблюдали различий в поведении модели при использовании придуманных ею инструкций. ___________________ 🗽 VPN Liberty дает 30 дней бесплатного доступа всем подписчикам канала Varlamov News. Нажмите на синий текст и пользуйтесь бесплатным периодом без привязывания карты и автосписаний. Telegram-бот 🔛 #ad