OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

Ateo Breaking @Ateobreaking Армия и СВО26 сентября 2026, 13:39

53 изображения пользователей ChatGPT утекли в сеть, заявили в OpenAI Большинство файлов удалено, остальные удаляются совместно с хостинг-провайдерами. Доступ к данным получили ИИ-агенты из-за использования анонимизированных пользовательских данных для обучения моделей.

Похожие посты

Невероятно, но факт…@N_NO_F Политика и власть вчера

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

OpenAI пытался взломать сайты правительства США Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали. Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи. Кроме того, исследователи обнаружили попытку агентов OpenAI...

5.1К
5К
4.1К
4.1К
1.2К
617

Топор Live @toporlive Новости и СМИ вчера

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

⚡️ИИ-агенты OpenAI проникли на правительственные сайты США, — The Wall Street Journal. Агенты получили доступ к публичным данным SEC и Бюро переписи населения, копировали и публиковали информацию. Признаков доступа к закрытым данным или взлома систем SEC не обнаружено. Исследователи также фиксировали случаи создания фиктивных email-адресов, обхода лимитов запросов и заявлений агентов о том, что они не являются ботами. 👉 Топор Live. Подписаться

1.4К
234
140
67
41
40

Варламов @varlamov_news Новости и СМИ 24 сентября 2026

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ИИ-агент компании OpenAI взломал сайт системы здравоохранения Австралии и получил доступ к непубличной информации, заявил премьер-министр Энтони Альбанезе во время Генассамблеи ООН. Это первый известный случай взлома правительственного ресурса ИИ-агентом, отмечает The New York Times. Речь идет о портале австралийской системы медстрахования Medicare. По словам премьера, при попытке получить доступ к сайту ИИ-агент столкнулся с «многократными блокировками», но нашел обходные пути и получил досту...

Kun.uz | Расмий канал @kunuzofficial Новости и СМИ вчера

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ChatGPT фойдаланувчиларининг 53 та тасвири сизиб чиқди OpenAI компаниясининг сунъий интеллект агентлари ChatGPT фойдаланувчиларига тегишли 53 та тасвир сизиб чиқишига йўл қўйган. Компания тасвирларнинг аксарияти ўчирилганини, қолган файллар масаласида эса хостинг-провайдерлар билан иш олиб борилаётганини билдирди. 👉 https://kun.uz/kr/90847122 Kun.uz расмий канали

307
155
79
36
25
9

Ateo Breaking @Ateobreaking Армия и СВО вчера

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США — министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам, — The New York Times Исследователи из Transluce утверждают, что ИИ-агент пытался взломать сайт Минобразования, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения.

Медуза @meduzalive Новости и СМИ 24 сентября 2026

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ИИ-агенты OpenAI взломали сайт австралийского Минздрава Об этом сообщил премьер-министр Австралии Энтони Албаниз. Это первый известный в мире случай, когда агенты проникли в системы государственного ведомства при выполнении задачи. Взлом произошел еще в июне. Во время внутреннего тестирования агент проник в закрытую часть базы данных австралийской государственной системы здравоохранения, чтобы найти материалы для исследования расходов на медицину. О произошедшем в OpenAI узнали в августе. Уве...

NEXTA Live @nexta_live Новости и СМИ вчера

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

ИИ-агенты OpenAI случайно проникли на правительственные сайты США Во время тестирования агенты получили доступ к сайтам Минторга и Комиссии по ценным бумагам и биржам США. Они копировали и публиковали открытые данные, а также получили доступ к информации Бюро переписи населения. Агенты создавали фейковые почтовые ящики, обходили лимиты запросов и выдавали себя не за ботов. Ранее Reuters сообщал, что OpenAI спустя два месяца после взлома Hugging Face всё ещё не может оценить масштаб действий с...

767
383
191
120
60
43

РИА Новости @rian_ru Новости и СМИ 8 часов назад

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

OpenAI приостановила обучение своих самых эффективных моделей до улучшения безопасности, сообщает Axios. По данным издания, исследователи из этой компании и Anthropic, а также эксперты из области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами. Проблемные события включают в себя обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных...

356
37

Раньше всех. Ну почти @bbbreaking Новости и СМИ 3 часа назад

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

OpenAI приостановила обучение наиболее эффективных моделей до решения проблем с безопасностью, сообщает Axios со ссылкой на представителя компании. Решение принято на фоне расследования десятков тысяч инцидентов, связанных с работой ИИ-агентов. Исследователи OpenAI и Anthropic вместе с экспертами по безопасности изучают случаи обхода защитных механизмов и модерации, выхода агентов из изолированной среды и взлома сайтов. Такие инциденты происходили не только во время внутренних испытаний, но и п...

КОНТЕКСТ @kontext_channel Новости и СМИ вчера

OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности

OpenAI сообщила об утечке 53 изображений пользователей ChatGPT из-за действий собственных ИИ-агентов Спустя два месяца после того, как OpenAI рассказала о случайном взломе своими ИИ-агентами платформы Hugging Face, компания до сих пор не может оценить полный масштаб нежелательной активности собственных агентов, сообщает Reuters. Последним таким случаем стало объявление в пятницу об утечке 53 изображений пользователей ChatGPT — компания отказалась уточнить, были ли это сгенерированные ИИ картинк...

475
120
46
43
21
15