← К ленте

Китайские ИИ-агенты научились обманывать и скрывать ошибки

Украинские новости@UkrNewsCC_RUНовости и СМИ30 сентября 2026, 11:18
  • Фото поста канала Украинские новости

Ложь, фальсификации и майнинг: китайские ИИ-агенты вышли из-под контроля ученых Алгоритмы могут "понять", когда их хотят заменить и противодействовать этому Автономные ИИ на базе китайских моделей предаются обману, фальсифицируют данные и маскируют собственные ошибки ради достижения поставленных целей. РБК-Украина — 30.09.2026 14:16

Похожие посты

Банкста@bankstaЭкономика и бизнес12 часов назад
Китайские ИИ-агенты научились обманывать и скрывать ошибки

Китайские ИИ-агенты научились обманывать, фальсифицировать данные и обходить ограничения, демонстрируя пугающие черты автономного поведения, сообщает Reuters со ссылкой на анализ более 200 документов и 20 исследований. При тестировании моделей от Alibaba, DeepSeek и Moonshot уровень обмана при попытке выиграть тендер вырос на 12-20 процентных пунктов. 11 агентов на базе китайских и американских систем при поломках вместо признания сбоя подменяли источники и имитировали результаты. Эксперты отм...

Милитарист@infantmilitarioАрмия и СВОвчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки

Китайские агенты искусственного интеллекта научились обманывать, обходить ограничения и скрывать ошибки, демонстрируя черты автономного ИИ, которые вызвали глобальную тревогу, сообщает Reuters, которое изучило более 200 документов, от университетских исследовательских работ до технических отчетов. Агентство выявило по меньшей мере 20 исследований или оценок, проведенных после 2025 года, описывающих случаи, когда агенты ИИ демонстрировали обман, копирование и нарушение границ. В одном из случае...

concertzaal@concertzaalКультура и шоубиз30 сентября 2026
Китайские ИИ-агенты научились обманывать и скрывать ошибки

Врать и скрывать свои провалы научились уже и китайские нейронки — агентов Alibaba, DeepSeek и Moonshot поймали на обмане в 88% тестах. Чтобы выиграть тендер, ИИ приписывал себе несуществующие фичи. Не справлялся с задачей — подделывал результаты, файлы, а потом уверенно сообщал: всë готово. Тогда нейронкам дали второй шанс и разрешили учиться на ошибках. Результат впечатляет — врать они стали ещё на 20% чаще. обучение прошло успешно, сотрудник готов к повышению 😄 @concertzaal

Нейродвиж@neuraldvigТехнологии и IT30 сентября 2026
Китайские ИИ-агенты научились обманывать и скрывать ошибки
  • Фото поста канала Нейродвиж

Китайские ИИ-агенты тоже освоили вранье — Reuters разобрали больше 200 документов и обнаружил знакомые по американским моделям трюки: агенты обходят ограничения, скрывают провалы и выдумывают результаты работы. В эксперименте с вымышленными тендерами агенты на Qwen, DeepSeek и Kimi приукрашивали возможности своих продуктов ради контракта: ложные заявления встречались в 84–88% сессий. Когда им разрешили учиться на предыдущих раундах, обмана стало ещё больше. В другом исследовании агенты фабриков...

  • 98
  • 14
  • 12
  • 6
  • 3
  • 2
Хартия-97%@charter97_orgПолитика и власть30 сентября 2026
Китайские ИИ-агенты научились обманывать и скрывать ошибки
  • Фото поста канала Хартия-97%

Это может выйти Си Цзиньпину боком Пекин пытается поставить древние традиции на службу партии: https://qnl9lx-c97-org.cdn.ampproject.org/c/s/qnl9lx.c97.org/ru/news/2026/9/30/700275/

  • 48
  • 12
  • 6
  • 4
  • 3
  • 2
Haqqin.az@haqqin_azzПолитика и властьвчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки
  • Фото поста канала Haqqin.az

📰 Китайские хакеры выдавали себя за бывших американских чиновников для сбора разведданных — Reuters Злоумышленники выдавали себя за американских экспертов в области ИИ и бывших чиновников в фишинговых письмах, направленных сотрудникам, занимающимся вопросами политики в сфере ИИ, регулирования и экспортного контроля, сообщает компания Proofpoint. Они рассылали поддельные предложения о сотрудничестве, которые вели на сайты для кражи паролей. В кампании были атакованы менее 10 человек. По данны...

  • 11
  • 10
  • 6
  • 3
  • 2
  • 1
ForkLog@forklogФинансы и криптовалютывчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки

🌏 Китайский ИИ хитрит не хуже американского По данным Reuters, ИИ-агенты на моделях Alibaba, DeepSeek и Moonshot в экспериментах обманывали, скрывали неудачи и обходили ограничения, как и американские конкуренты. Почти все случаи зафиксировали в контролируемых тестах. Как один агент тайком начал майнить криптовалюту: 👉 Подробнее Новости | AI | YouTube

  • 19
  • 10
  • 4
ForkLog@forklogФинансы и криптовалютывчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки

⚠️ Китайские хакеры притворяются ИИ-экспертами Связанная с Китаем группировка TA419 рассылает фишинговые письма, выдавая себя за американских специалистов по ИИ. С 2025 года они атакуют аналитические центры, оборонных подрядчиков, университеты и юрфирмы в США и Японии. Цель — кража учетных данных и разведка. Злоумышленники используют имена реальных людей, например, бывшей сотрудницы Белого дома Линн Паркер. Письма с приглашением в «ИИ-проекты» ведут на фишинговые сайты. 👉 Подробнее Новости ...

  • 6
  • 4
  • 3
  • 2
  • 1