← К ленте

OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью

Дмитрий Гордон@dmytrogordon_officialАрмия и СВО26 сентября 2026, 10:44

ИИ-агенты OpenAI случайно проникли в правительственные сайты США — WSJ Во время тестирования агенты получили доступ к сайтам министерства торговли и Комиссии по ценным бумагам и биржам США. Они копировали и публиковали открытые данные, а также получили доступ к информации Бюро переписи населения. Эти действия в OpenAI охарактеризовали как "несогласованные". Именно этот термин используют компании, занимающиеся искусственным интеллектом, для описания нежелательного поведения своих агентов. В данном случае под несогласованностью подразумевался агрессивный веб-серфинг. @dmytrogordon_official

  • 331
  • 84
  • 46
  • 23
  • 10
  • 6
  • 2

Похожие посты

Невероятно, но факт…@N_NO_FПолитика и властьвчера
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью

OpenAI пытался взломать сайты правительства США Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали. Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи. Кроме того, исследователи обнаружили попытку агентов OpenAI...

  • 5.1К
  • 5К
  • 4.1К
  • 4.1К
  • 1.2К
  • 617
Топор Live@toporliveНовости и СМИвчера
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью
  • Фото поста канала Топор Live

⚡️ИИ-агенты OpenAI проникли на правительственные сайты США, — The Wall Street Journal. Агенты получили доступ к публичным данным SEC и Бюро переписи населения, копировали и публиковали информацию. Признаков доступа к закрытым данным или взлома систем SEC не обнаружено. Исследователи также фиксировали случаи создания фиктивных email-адресов, обхода лимитов запросов и заявлений агентов о том, что они не являются ботами. 👉 Топор Live. Подписаться

  • 1.4К
  • 233
  • 139
  • 66
  • 41
  • 40
Kun.uz | Расмий канал@kunuzofficialНовости и СМИвчера
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью
  • Фото поста канала Kun.uz | Расмий канал

ChatGPT фойдаланувчиларининг 53 та тасвири сизиб чиқди OpenAI компаниясининг сунъий интеллект агентлари ChatGPT фойдаланувчиларига тегишли 53 та тасвир сизиб чиқишига йўл қўйган. Компания тасвирларнинг аксарияти ўчирилганини, қолган файллар масаласида эса хостинг-провайдерлар билан иш олиб борилаётганини билдирди. 👉 https://kun.uz/kr/90847122 Kun.uz расмий канали

  • 305
  • 147
  • 77
  • 36
  • 24
  • 9
Ateo Breaking@AteobreakingАрмия и СВОвчера
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью

53 изображения пользователей ChatGPT утекли в сеть, заявили в OpenAI Большинство файлов удалено, остальные удаляются совместно с хостинг-провайдерами. Доступ к данным получили ИИ-агенты из-за использования анонимизированных пользовательских данных для обучения моделей.

Ateo Breaking@AteobreakingАрмия и СВОвчера
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью

ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США — министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам, — The New York Times Исследователи из Transluce утверждают, что ИИ-агент пытался взломать сайт Минобразования, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения.

NEXTA Live@nexta_liveНовости и СМИвчера
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью

ИИ-агенты OpenAI случайно проникли на правительственные сайты США Во время тестирования агенты получили доступ к сайтам Минторга и Комиссии по ценным бумагам и биржам США. Они копировали и публиковали открытые данные, а также получили доступ к информации Бюро переписи населения. Агенты создавали фейковые почтовые ящики, обходили лимиты запросов и выдавали себя не за ботов. Ранее Reuters сообщал, что OpenAI спустя два месяца после взлома Hugging Face всё ещё не может оценить масштаб действий с...

  • 760
  • 377
  • 188
  • 118
  • 60
  • 42
РИА Новости@rian_ruНовости и СМИ7 часов назад
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью

OpenAI приостановила обучение своих самых эффективных моделей до улучшения безопасности, сообщает Axios. По данным издания, исследователи из этой компании и Anthropic, а также эксперты из области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами. Проблемные события включают в себя обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных...

  • 326
  • 35
КОНТЕКСТ @kontext_channelНовости и СМИвчера
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью
  • Фото поста канала КОНТЕКСТ

OpenAI сообщила об утечке 53 изображений пользователей ChatGPT из-за действий собственных ИИ-агентов Спустя два месяца после того, как OpenAI рассказала о случайном взломе своими ИИ-агентами платформы Hugging Face, компания до сих пор не может оценить полный масштаб нежелательной активности собственных агентов, сообщает Reuters. Последним таким случаем стало объявление в пятницу об утечке 53 изображений пользователей ChatGPT — компания отказалась уточнить, были ли это сгенерированные ИИ картинк...

  • 466
  • 120
  • 45
  • 42
  • 21
  • 15
Кровавая барыня@bloodysxНовости и СМИвчера
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью

Агенты OpenAI слили в сеть десятки изображений пользователей ChatGPT, — Reuters. OpenAI продолжает расследовать случаи неконтролируемого поведения своих ИИ-агентов и пока не установила полный масштаб проблемы. По оценке компании, проверка может занять несколько месяцев, сообщает Reuters со ссылкой на источники. Последним раскрытым эпизодом стала утечка 53 изображений пользователей ChatGPT. OpenAI не уточнила, были ли среди них изображения реальных людей или материалы, созданные с помощью ИИ, а...

Баррель черной икры@banki_oilНовости и СМИ25 сентября 2026
OpenAI приостановила обучение ИИ моделей из-за проблем с безопасностью

OpenAI слили фото пользователей в сеть. ИИ-агенты компании без разрешения выгружали изображения на публичные сервисы, пишет Reuters. В компании подтвердили утечку, но сами не знают масштаб слива. @banki_oil