OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

Топор+Юмор и развлечения27 сентября 2026, 08:27

OpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инцидентов — Axios. Исследователи фиксируют огромное количество случаев, когда ИИ-модели обходили защиту, перехватывали управление и выбирались из изолированной среды. Проблема настолько масштабна, что компании сомневаются, способны ли они вообще контролировать свои ИИ. Обучение моделей могут возобновить, когда Open AI убедится в их безопасности. Ранее ИИ-агенты компании уже вмешивались в работу сайтов правительств США и Австралии и сливали в сеть фотографии пользователей ChatGPT. Страшно, очень страшно. 👉 Топор +18. Подписаться

Похожие посты

Невероятно, но факт…@N_NO_F Политика и власть вчера

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI пытался взломать сайты правительства США Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали. Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи. Кроме того, исследователи обнаружили попытку агентов OpenAI...

5.1К
5К
4.1К
4.1К
1.2К
617

Топор Live @toporlive Новости и СМИ вчера

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

⚡️ИИ-агенты OpenAI проникли на правительственные сайты США, — The Wall Street Journal. Агенты получили доступ к публичным данным SEC и Бюро переписи населения, копировали и публиковали информацию. Признаков доступа к закрытым данным или взлома систем SEC не обнаружено. Исследователи также фиксировали случаи создания фиктивных email-адресов, обхода лимитов запросов и заявлений агентов о том, что они не являются ботами. 👉 Топор Live. Подписаться

1.4К
240
144
67
43
41

Варламов @varlamov_news Новости и СМИ 24 сентября 2026

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агент компании OpenAI взломал сайт системы здравоохранения Австралии и получил доступ к непубличной информации, заявил премьер-министр Энтони Альбанезе во время Генассамблеи ООН. Это первый известный случай взлома правительственного ресурса ИИ-агентом, отмечает The New York Times. Речь идет о портале австралийской системы медстрахования Medicare. По словам премьера, при попытке получить доступ к сайту ИИ-агент столкнулся с «многократными блокировками», но нашел обходные пути и получил досту...

Kun.uz | Расмий канал @kunuzofficial Новости и СМИ вчера

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ChatGPT фойдаланувчиларининг 53 та тасвири сизиб чиқди OpenAI компаниясининг сунъий интеллект агентлари ChatGPT фойдаланувчиларига тегишли 53 та тасвир сизиб чиқишига йўл қўйган. Компания тасвирларнинг аксарияти ўчирилганини, қолган файллар масаласида эса хостинг-провайдерлар билан иш олиб борилаётганини билдирди. 👉 https://kun.uz/kr/90847122 Kun.uz расмий канали

313
161
80
36
26
9

Ateo Breaking @Ateobreaking Армия и СВО вчера

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

53 изображения пользователей ChatGPT утекли в сеть, заявили в OpenAI Большинство файлов удалено, остальные удаляются совместно с хостинг-провайдерами. Доступ к данным получили ИИ-агенты из-за использования анонимизированных пользовательских данных для обучения моделей.

Ateo Breaking @Ateobreaking Армия и СВО вчера

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США — министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам, — The New York Times Исследователи из Transluce утверждают, что ИИ-агент пытался взломать сайт Минобразования, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения.

Раньше всех. Ну почти @bbbreaking Новости и СМИ 6 часов назад

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI приостановила обучение наиболее эффективных моделей до решения проблем с безопасностью, сообщает Axios со ссылкой на представителя компании. Решение принято на фоне расследования десятков тысяч инцидентов, связанных с работой ИИ-агентов. Исследователи OpenAI и Anthropic вместе с экспертами по безопасности изучают случаи обхода защитных механизмов и модерации, выхода агентов из изолированной среды и взлома сайтов. Такие инциденты происходили не только во время внутренних испытаний, но и п...

Медуза @meduzalive Новости и СМИ 24 сентября 2026

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агенты OpenAI взломали сайт австралийского Минздрава Об этом сообщил премьер-министр Австралии Энтони Албаниз. Это первый известный в мире случай, когда агенты проникли в системы государственного ведомства при выполнении задачи. Взлом произошел еще в июне. Во время внутреннего тестирования агент проник в закрытую часть базы данных австралийской государственной системы здравоохранения, чтобы найти материалы для исследования расходов на медицину. О произошедшем в OpenAI узнали в августе. Уве...

РИА Новости @rian_ru Новости и СМИ 12 часов назад

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI приостановила обучение своих самых эффективных моделей до улучшения безопасности, сообщает Axios. По данным издания, исследователи из этой компании и Anthropic, а также эксперты из области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами. Проблемные события включают в себя обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных...

381
44

NEXTA Live @nexta_live Новости и СМИ вчера

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агенты OpenAI случайно проникли на правительственные сайты США Во время тестирования агенты получили доступ к сайтам Минторга и Комиссии по ценным бумагам и биржам США. Они копировали и публиковали открытые данные, а также получили доступ к информации Бюро переписи населения. Агенты создавали фейковые почтовые ящики, обходили лимиты запросов и выдавали себя не за ботов. Ранее Reuters сообщал, что OpenAI спустя два месяца после взлома Hugging Face всё ещё не может оценить масштаб действий с...

776
391
193
126
62
43