OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

Максим Шевцов глобальный проект@set_partiaПолитика и власть28 сентября 2026, 12:45

Психолог Альберт Бандура назвал это моральным отключением: человек спокойно делает то, что сам считает дурным, если ответственность можно переложить наверх или размазать по многим. «Мне приказали», «все так делали». В 2016 году нейробиологи Эмили Каспар, Патрик Хаггард и их коллеги проверили это на приборах. Люди в парах могли навредить партнёру, иногда по своему выбору, иногда по приказу. Под приказом у них проседало чувство авторства: промежуток между своим нажатием кнопки и его последствием казался им длиннее, мозг хуже связывал «я сделал» и «это случилось». Изнутри это похоже на лёгкую отстранённость, будто рука нажала сама, а ты смотрел со стороны. Прокладка снимает ответственность не только по закону, она снимает её и в теле исполнителя. РАЗВИТИЕ. Нейросеть - следующая прокладка, и она удобнее прежней. У фонда есть бухгалтерия, у Азефа были расписки. У нейросети нет ничего, кроме запроса. «А теперь дай им доступ к тебе без контроля и посмотри, что получится», - сказала я. Он ответил, что это уже не гипотеза. В мае 2024 года OpenAI сообщила, что пресекла пять тайных операций влияния на своих моделях: российские Doppelganger и Bad Grammar, китайскую Spamouflage, иранскую IUVM и израильскую коммерческую фирму STOIC. Модели писали фальшивые комментарии и статьи на десятках языков. Ловят такое пока только там, где за моделью кто-то смотрит. (оговорка: то, что конкретные фонды сегодня готовят операции с ИИ - это наша версия; то, что практика прокладок существует и уже перешла на ИИ - это факт) Источники: Б. Николаевский, «История одного предателя»; Европарламент, резолюция о «Гладио», 22.11.1990; «Justification for US Military Intervention in Cuba» (Northwoods), 13.03.1962, рассекр. 1997; D. Ignatius, The Washington Post, 22.09.1991; AP, 03.04.2014; A. Bandura, 1999; E. Caspar et al., «Coercion changes the sense of agency in the human brain», Current Biology, 2016; OpenAI, 30.05.2024. Поразмышляйте еще, пока я соберу продолжение.

  • 16
  • 5
  • 4

Похожие посты

Топор+Юмор и развлечениявчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инцидентов — Axios. Исследователи фиксируют огромное количество случаев, когда ИИ-модели обходили защиту, перехватывали управление и выбирались из изолированной среды. Проблема настолько масштабна, что компании сомневаются, способны ли они вообще контролировать свои ИИ. Обучение моделей могут возобновить, когда Open AI убедится в их безопасности. Ранее ИИ-агенты компании уже вмешивались в работу сайтов правител...

Невероятно, но факт…@N_NO_FПолитика и власть26 сентября 2026
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI пытался взломать сайты правительства США Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали. Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи. Кроме того, исследователи обнаружили попытку агентов OpenAI...

  • 5.1К
  • 5К
  • 4.1К
  • 4.1К
  • 1.2К
  • 617
Топор Live@toporliveНовости и СМИ26 сентября 2026
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов
  • Фото поста канала Топор Live

⚡️ИИ-агенты OpenAI проникли на правительственные сайты США, — The Wall Street Journal. Агенты получили доступ к публичным данным SEC и Бюро переписи населения, копировали и публиковали информацию. Признаков доступа к закрытым данным или взлома систем SEC не обнаружено. Исследователи также фиксировали случаи создания фиктивных email-адресов, обхода лимитов запросов и заявлений агентов о том, что они не являются ботами. 👉 Топор Live. Подписаться

  • 1.5К
  • 270
  • 152
  • 69
  • 43
  • 43
Kun.uz | Расмий канал@kunuzofficialНовости и СМИ26 сентября 2026
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов
  • Фото поста канала  Kun.uz | Расмий канал

ChatGPT фойдаланувчиларининг 53 та тасвири сизиб чиқди OpenAI компаниясининг сунъий интеллект агентлари ChatGPT фойдаланувчиларига тегишли 53 та тасвир сизиб чиқишига йўл қўйган. Компания тасвирларнинг аксарияти ўчирилганини, қолган файллар масаласида эса хостинг-провайдерлар билан иш олиб борилаётганини билдирди. 👉 https://kun.uz/kr/90847122 Kun.uz расмий канали

  • 330
  • 178
  • 85
  • 39
  • 28
  • 10
Варламов@varlamov_newsНовости и СМИ24 сентября 2026
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агент компании OpenAI взломал сайт системы здравоохранения Австралии и получил доступ к непубличной информации, заявил премьер-министр Энтони Альбанезе во время Генассамблеи ООН. Это первый известный случай взлома правительственного ресурса ИИ-агентом, отмечает The New York Times. Речь идет о портале австралийской системы медстрахования Medicare. По словам премьера, при попытке получить доступ к сайту ИИ-агент столкнулся с «многократными блокировками», но нашел обходные пути и получил досту...

Варламов@varlamov_newsНовости и СМИвчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

Компании OpenAI и Anthropic совместно с внешними специалистами по безопасности расследуют десятки тысяч инцидентов, когда их передовые ИИ-модели вели себя некорректно, рассказали источники издания Axios: • Эпизоды включают в себя попытки обхода защитных механизмов и захват сайтов. Большинство случаев не причинили реального вреда, иногда ИИ-модели провоцировали специально. • О многих инцидентах еще не сообщалось публично, по ним продолжаются расследования. • Представитель OpenAI сообщил, что к...

Раньше всех. Ну почти@bbbreakingНовости и СМИвчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI приостановила обучение наиболее эффективных моделей до решения проблем с безопасностью, сообщает Axios со ссылкой на представителя компании. Решение принято на фоне расследования десятков тысяч инцидентов, связанных с работой ИИ-агентов. Исследователи OpenAI и Anthropic вместе с экспертами по безопасности изучают случаи обхода защитных механизмов и модерации, выхода агентов из изолированной среды и взлома сайтов. Такие инциденты происходили не только во время внутренних испытаний, но и п...

Ateo Breaking@AteobreakingАрмия и СВО26 сентября 2026
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

53 изображения пользователей ChatGPT утекли в сеть, заявили в OpenAI Большинство файлов удалено, остальные удаляются совместно с хостинг-провайдерами. Доступ к данным получили ИИ-агенты из-за использования анонимизированных пользовательских данных для обучения моделей.

Ateo Breaking@AteobreakingАрмия и СВО26 сентября 2026
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США — министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам, — The New York Times Исследователи из Transluce утверждают, что ИИ-агент пытался взломать сайт Минобразования, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения.

РИА Новости@rian_ruНовости и СМИвчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI приостановила обучение своих самых эффективных моделей до улучшения безопасности, сообщает Axios. По данным издания, исследователи из этой компании и Anthropic, а также эксперты из области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами. Проблемные события включают в себя обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных...

  • 458
  • 49