← К ленте

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ВЕСТИ@vestiru24Новости и СМИ27 сентября 2026, 03:30

OpenAI приостановила обучение наиболее мощных ИИ-моделей после случаев их нежелательного поведения, сообщает Axios. Совместно с Anthropic компания расследует десятки тысяч эпизодов, в которых ИИ-модели пытались обходить ограничения, покидать тестовые среды и системы мониторинга. Некоторые случаи произошли при использовании искусственного интеллекта в реальных условиях. Однако большинство известных инцидентов не привело к ущербу. В OpenAI заявили, что пауза в обучении нужна для усиления мер безопасности.

Похожие посты

Невероятно, но факт…@N_NO_FПолитика и властьвчера
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

OpenAI пытался взломать сайты правительства США Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали. Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи. Кроме того, исследователи обнаружили попытку агентов OpenAI...

  • 5.1К
  • 5К
  • 4.1К
  • 4.1К
  • 1.2К
  • 617
Топор Live@toporliveНовости и СМИвчера
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности
  • Фото поста канала Топор Live

⚡️ИИ-агенты OpenAI проникли на правительственные сайты США, — The Wall Street Journal. Агенты получили доступ к публичным данным SEC и Бюро переписи населения, копировали и публиковали информацию. Признаков доступа к закрытым данным или взлома систем SEC не обнаружено. Исследователи также фиксировали случаи создания фиктивных email-адресов, обхода лимитов запросов и заявлений агентов о том, что они не являются ботами. 👉 Топор Live. Подписаться

  • 1.4К
  • 234
  • 140
  • 67
  • 41
  • 40
Варламов@varlamov_newsНовости и СМИ24 сентября 2026
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ИИ-агент компании OpenAI взломал сайт системы здравоохранения Австралии и получил доступ к непубличной информации, заявил премьер-министр Энтони Альбанезе во время Генассамблеи ООН. Это первый известный случай взлома правительственного ресурса ИИ-агентом, отмечает The New York Times. Речь идет о портале австралийской системы медстрахования Medicare. По словам премьера, при попытке получить доступ к сайту ИИ-агент столкнулся с «многократными блокировками», но нашел обходные пути и получил досту...

Kun.uz | Расмий канал@kunuzofficialНовости и СМИвчера
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности
  • Фото поста канала Kun.uz | Расмий канал

ChatGPT фойдаланувчиларининг 53 та тасвири сизиб чиқди OpenAI компаниясининг сунъий интеллект агентлари ChatGPT фойдаланувчиларига тегишли 53 та тасвир сизиб чиқишига йўл қўйган. Компания тасвирларнинг аксарияти ўчирилганини, қолган файллар масаласида эса хостинг-провайдерлар билан иш олиб борилаётганини билдирди. 👉 https://kun.uz/kr/90847122 Kun.uz расмий канали

  • 307
  • 155
  • 79
  • 36
  • 25
  • 9
Ateo Breaking@AteobreakingАрмия и СВОвчера
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

53 изображения пользователей ChatGPT утекли в сеть, заявили в OpenAI Большинство файлов удалено, остальные удаляются совместно с хостинг-провайдерами. Доступ к данным получили ИИ-агенты из-за использования анонимизированных пользовательских данных для обучения моделей.

Ateo Breaking@AteobreakingАрмия и СВОвчера
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США — министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам, — The New York Times Исследователи из Transluce утверждают, что ИИ-агент пытался взломать сайт Минобразования, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения.

Медуза@meduzaliveНовости и СМИ24 сентября 2026
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ИИ-агенты OpenAI взломали сайт австралийского Минздрава Об этом сообщил премьер-министр Австралии Энтони Албаниз. Это первый известный в мире случай, когда агенты проникли в системы государственного ведомства при выполнении задачи. Взлом произошел еще в июне. Во время внутреннего тестирования агент проник в закрытую часть базы данных австралийской государственной системы здравоохранения, чтобы найти материалы для исследования расходов на медицину. О произошедшем в OpenAI узнали в августе. Уве...

NEXTA Live@nexta_liveНовости и СМИвчера
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ИИ-агенты OpenAI случайно проникли на правительственные сайты США Во время тестирования агенты получили доступ к сайтам Минторга и Комиссии по ценным бумагам и биржам США. Они копировали и публиковали открытые данные, а также получили доступ к информации Бюро переписи населения. Агенты создавали фейковые почтовые ящики, обходили лимиты запросов и выдавали себя не за ботов. Ранее Reuters сообщал, что OpenAI спустя два месяца после взлома Hugging Face всё ещё не может оценить масштаб действий с...

  • 767
  • 383
  • 191
  • 120
  • 60
  • 43
РИА Новости@rian_ruНовости и СМИ8 часов назад
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

OpenAI приостановила обучение своих самых эффективных моделей до улучшения безопасности, сообщает Axios. По данным издания, исследователи из этой компании и Anthropic, а также эксперты из области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами. Проблемные события включают в себя обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных...

  • 356
  • 37
Раньше всех. Ну почти@bbbreakingНовости и СМИ3 часа назад
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

OpenAI приостановила обучение наиболее эффективных моделей до решения проблем с безопасностью, сообщает Axios со ссылкой на представителя компании. Решение принято на фоне расследования десятков тысяч инцидентов, связанных с работой ИИ-агентов. Исследователи OpenAI и Anthropic вместе с экспертами по безопасности изучают случаи обхода защитных механизмов и модерации, выхода агентов из изолированной среды и взлома сайтов. Такие инциденты происходили не только во время внутренних испытаний, но и п...