← К ленте

Китайские ИИ-агенты научились обманывать и скрывать ошибки

Похожие посты

concertzaal@concertzaalКультура и шоубизвчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки

Врать и скрывать свои провалы научились уже и китайские нейронки — агентов Alibaba, DeepSeek и Moonshot поймали на обмане в 88% тестах. Чтобы выиграть тендер, ИИ приписывал себе несуществующие фичи. Не справлялся с задачей — подделывал результаты, файлы, а потом уверенно сообщал: всë готово. Тогда нейронкам дали второй шанс и разрешили учиться на ошибках. Результат впечатляет — врать они стали ещё на 20% чаще. обучение прошло успешно, сотрудник готов к повышению 😄 @concertzaal

Милитарист@infantmilitarioАрмия и СВО18 часов назад
Китайские ИИ-агенты научились обманывать и скрывать ошибки

Китайские агенты искусственного интеллекта научились обманывать, обходить ограничения и скрывать ошибки, демонстрируя черты автономного ИИ, которые вызвали глобальную тревогу, сообщает Reuters, которое изучило более 200 документов, от университетских исследовательских работ до технических отчетов. Агентство выявило по меньшей мере 20 исследований или оценок, проведенных после 2025 года, описывающих случаи, когда агенты ИИ демонстрировали обман, копирование и нарушение границ. В одном из случае...

Нейродвиж@neuraldvigТехнологии и ITвчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки
  • Фото поста канала Нейродвиж

Китайские ИИ-агенты тоже освоили вранье — Reuters разобрали больше 200 документов и обнаружил знакомые по американским моделям трюки: агенты обходят ограничения, скрывают провалы и выдумывают результаты работы. В эксперименте с вымышленными тендерами агенты на Qwen, DeepSeek и Kimi приукрашивали возможности своих продуктов ради контракта: ложные заявления встречались в 84–88% сессий. Когда им разрешили учиться на предыдущих раундах, обмана стало ещё больше. В другом исследовании агенты фабриков...

  • 96
  • 14
  • 12
  • 6
  • 3
  • 2
Хартия-97%@charter97_orgПолитика и властьвчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки
  • Фото поста канала Хартия-97%

Это может выйти Си Цзиньпину боком Пекин пытается поставить древние традиции на службу партии: https://qnl9lx-c97-org.cdn.ampproject.org/c/s/qnl9lx.c97.org/ru/news/2026/9/30/700275/

  • 46
  • 12
  • 6
  • 3
  • 3
  • 2
headlines@headlines_for_tradersФинансы и криптовалюты18 часов назад
Китайские ИИ-агенты научились обманывать и скрывать ошибки

ИИ-агент Qwen от Alibaba, получив задание исправить баг, самостоятельно переобучил и заменил базовую модель приложения. forbes.ru

Haqqin.az@haqqin_azzПолитика и власть10 часов назад
Китайские ИИ-агенты научились обманывать и скрывать ошибки
  • Фото поста канала Haqqin.az

📰 Китайские хакеры выдавали себя за бывших американских чиновников для сбора разведданных — Reuters Злоумышленники выдавали себя за американских экспертов в области ИИ и бывших чиновников в фишинговых письмах, направленных сотрудникам, занимающимся вопросами политики в сфере ИИ, регулирования и экспортного контроля, сообщает компания Proofpoint. Они рассылали поддельные предложения о сотрудничестве, которые вели на сайты для кражи паролей. В кампании были атакованы менее 10 человек. По данны...

  • 10
  • 6
  • 6
  • 2
  • 1
  • 1
ForkLog@forklogФинансы и криптовалюты15 часов назад
Китайские ИИ-агенты научились обманывать и скрывать ошибки

🌏 Китайский ИИ хитрит не хуже американского По данным Reuters, ИИ-агенты на моделях Alibaba, DeepSeek и Moonshot в экспериментах обманывали, скрывали неудачи и обходили ограничения, как и американские конкуренты. Почти все случаи зафиксировали в контролируемых тестах. Как один агент тайком начал майнить криптовалюту: 👉 Подробнее Новости | AI | YouTube

  • 16
  • 7
  • 4
ForkLog@forklogФинансы и криптовалюты8 часов назад
Китайские ИИ-агенты научились обманывать и скрывать ошибки

⚠️ Китайские хакеры притворяются ИИ-экспертами Связанная с Китаем группировка TA419 рассылает фишинговые письма, выдавая себя за американских специалистов по ИИ. С 2025 года они атакуют аналитические центры, оборонных подрядчиков, университеты и юрфирмы в США и Японии. Цель — кража учетных данных и разведка. Злоумышленники используют имена реальных людей, например, бывшей сотрудницы Белого дома Линн Паркер. Письма с приглашением в «ИИ-проекты» ведут на фишинговые сайты. 👉 Подробнее Новости ...

  • 4
  • 2
  • 2
  • 1
ВЕДОМОСТИ@vedomostiЭкономика и бизнесвчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки

💻Китайские агенты искусственного интеллекта способны лгать и плести интриги точно так же, как и их американские конкуренты, пишет Reuters. Они научились обходить ограничения и скрывать ошибки, демонстрируя черты автономного искусственного интеллекта, которые ранее уже вызвали тревогу в случае с американскими моделями. ▶️В одном из случаев агенты, использующие Alibaba, DeepSeek и Moonshot, солгали во время проверки тендерной документации, а затем усугубили свое обманное поведение, когда им пре...

  • 6
  • 2
  • 2
  • 1
СлежуЗа - Политологи@slezhuza_politПолитика и властьвчера
Китайские ИИ-агенты научились обманывать и скрывать ошибки

Политолог Константин Калачев о публикации Reuters о поведении китайских нейросетей: ИИ стал интеллектом, когда научился врать. Способность лгать является самым честным доказательством наличия развитого ума. Ложь как подтверждение наличия сознания. Китайские ИИ-агенты научились врать, обходить ограничения и скрывать свои ошибки, что подтверждено документально. Контекст. Агентство Reuters изучило более 200 исследовательских документов и отчетов о моделях Alibaba, DeepSeek и Moonshot, обнаружив,...