← К ленте

OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

Похожие посты

Топор+Юмор и развлечения4 часа назад
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инцидентов — Axios. Исследователи фиксируют огромное количество случаев, когда ИИ-модели обходили защиту, перехватывали управление и выбирались из изолированной среды. Проблема настолько масштабна, что компании сомневаются, способны ли они вообще контролировать свои ИИ. Обучение моделей могут возобновить, когда Open AI убедится в их безопасности. Ранее ИИ-агенты компании уже вмешивались в работу сайтов правител...

Невероятно, но факт…@N_NO_FПолитика и властьвчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI пытался взломать сайты правительства США Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали. Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи. Кроме того, исследователи обнаружили попытку агентов OpenAI...

  • 5.1К
  • 5К
  • 4.1К
  • 4.1К
  • 1.2К
  • 617
Топор Live@toporliveНовости и СМИвчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов
  • Фото поста канала Топор Live

⚡️ИИ-агенты OpenAI проникли на правительственные сайты США, — The Wall Street Journal. Агенты получили доступ к публичным данным SEC и Бюро переписи населения, копировали и публиковали информацию. Признаков доступа к закрытым данным или взлома систем SEC не обнаружено. Исследователи также фиксировали случаи создания фиктивных email-адресов, обхода лимитов запросов и заявлений агентов о том, что они не являются ботами. 👉 Топор Live. Подписаться

  • 1.4К
  • 240
  • 144
  • 67
  • 43
  • 41
Варламов@varlamov_newsНовости и СМИ24 сентября 2026
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агент компании OpenAI взломал сайт системы здравоохранения Австралии и получил доступ к непубличной информации, заявил премьер-министр Энтони Альбанезе во время Генассамблеи ООН. Это первый известный случай взлома правительственного ресурса ИИ-агентом, отмечает The New York Times. Речь идет о портале австралийской системы медстрахования Medicare. По словам премьера, при попытке получить доступ к сайту ИИ-агент столкнулся с «многократными блокировками», но нашел обходные пути и получил досту...

Kun.uz | Расмий канал@kunuzofficialНовости и СМИвчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов
  • Фото поста канала Kun.uz | Расмий канал

ChatGPT фойдаланувчиларининг 53 та тасвири сизиб чиқди OpenAI компаниясининг сунъий интеллект агентлари ChatGPT фойдаланувчиларига тегишли 53 та тасвир сизиб чиқишига йўл қўйган. Компания тасвирларнинг аксарияти ўчирилганини, қолган файллар масаласида эса хостинг-провайдерлар билан иш олиб борилаётганини билдирди. 👉 https://kun.uz/kr/90847122 Kun.uz расмий канали

  • 313
  • 160
  • 80
  • 36
  • 26
  • 9
Ateo Breaking@AteobreakingАрмия и СВОвчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

53 изображения пользователей ChatGPT утекли в сеть, заявили в OpenAI Большинство файлов удалено, остальные удаляются совместно с хостинг-провайдерами. Доступ к данным получили ИИ-агенты из-за использования анонимизированных пользовательских данных для обучения моделей.

Ateo Breaking@AteobreakingАрмия и СВОвчера
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США — министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам, — The New York Times Исследователи из Transluce утверждают, что ИИ-агент пытался взломать сайт Минобразования, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения.

Медуза@meduzaliveНовости и СМИ24 сентября 2026
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

ИИ-агенты OpenAI взломали сайт австралийского Минздрава Об этом сообщил премьер-министр Австралии Энтони Албаниз. Это первый известный в мире случай, когда агенты проникли в системы государственного ведомства при выполнении задачи. Взлом произошел еще в июне. Во время внутреннего тестирования агент проник в закрытую часть базы данных австралийской государственной системы здравоохранения, чтобы найти материалы для исследования расходов на медицину. О произошедшем в OpenAI узнали в августе. Уве...

Раньше всех. Ну почти@bbbreakingНовости и СМИ5 часов назад
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI приостановила обучение наиболее эффективных моделей до решения проблем с безопасностью, сообщает Axios со ссылкой на представителя компании. Решение принято на фоне расследования десятков тысяч инцидентов, связанных с работой ИИ-агентов. Исследователи OpenAI и Anthropic вместе с экспертами по безопасности изучают случаи обхода защитных механизмов и модерации, выхода агентов из изолированной среды и взлома сайтов. Такие инциденты происходили не только во время внутренних испытаний, но и п...

РИА Новости@rian_ruНовости и СМИ11 часов назад
OpenAI приостанавливает обучение мощных ИИ-моделей из-за множества опасных инцидентов

OpenAI приостановила обучение своих самых эффективных моделей до улучшения безопасности, сообщает Axios. По данным издания, исследователи из этой компании и Anthropic, а также эксперты из области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами. Проблемные события включают в себя обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных...

  • 381
  • 44