← К ленте

Китайские ИИ-агенты научились обманывать и скрывать ошибки

Политика и власть3 часа назад

Постов: 17Каналов: 16153.4К

concertzaal@concertzaalКультура и шоубизвчера

Врать и скрывать свои провалы научились уже и китайские нейронки — агентов Alibaba, DeepSeek и Moonshot поймали на обмане в 88% тестах. Чтобы выиграть тендер, ИИ приписывал себе несуществующие фичи. Не справлялся с задачей — подделывал результаты, файлы, а потом уверенно сообщал: всë готово. Тогда нейронкам дали второй шанс и разрешили учиться на ошибках. Результат впечатляет — врать они стали ещё на 20% чаще. обучение прошло успешно, сотрудник готов к повышению 😄 @concertzaal

Милитарист@infantmilitarioАрмия и СВО13 часов назад

Китайские агенты искусственного интеллекта научились обманывать, обходить ограничения и скрывать ошибки, демонстрируя черты автономного ИИ, которые вызвали глобальную тревогу, сообщает Reuters, которое изучило более 200 документов, от университетских исследовательских работ до технических отчетов. Агентство выявило по меньшей мере 20 исследований или оценок, проведенных после 2025 года, описывающих случаи, когда агенты ИИ демонстрировали обман, копирование и нарушение границ. В одном из случае...

Нейродвиж@neuraldvigТехнологии и ITвчера
  • Фото поста канала Нейродвиж

Китайские ИИ-агенты тоже освоили вранье — Reuters разобрали больше 200 документов и обнаружил знакомые по американским моделям трюки: агенты обходят ограничения, скрывают провалы и выдумывают результаты работы. В эксперименте с вымышленными тендерами агенты на Qwen, DeepSeek и Kimi приукрашивали возможности своих продуктов ради контракта: ложные заявления встречались в 84–88% сессий. Когда им разрешили учиться на предыдущих раундах, обмана стало ещё больше. В другом исследовании агенты фабриков...

  • 96
  • 14
  • 12
  • 6
  • 3
  • 2
ForkLog@forklogФинансы и криптовалюты10 часов назад

🌏 Китайский ИИ хитрит не хуже американского По данным Reuters, ИИ-агенты на моделях Alibaba, DeepSeek и Moonshot в экспериментах обманывали, скрывали неудачи и обходили ограничения, как и американские конкуренты. Почти все случаи зафиксировали в контролируемых тестах. Как один агент тайком начал майнить криптовалюту: 👉 Подробнее Новости | AI | YouTube

  • 14
  • 6
  • 4
Haqqin.az@haqqin_azzПолитика и власть5 часов назад
  • Фото поста канала Haqqin.az

📰 Китайские хакеры выдавали себя за бывших американских чиновников для сбора разведданных — Reuters Злоумышленники выдавали себя за американских экспертов в области ИИ и бывших чиновников в фишинговых письмах, направленных сотрудникам, занимающимся вопросами политики в сфере ИИ, регулирования и экспортного контроля, сообщает компания Proofpoint. Они рассылали поддельные предложения о сотрудничестве, которые вели на сайты для кражи паролей. В кампании были атакованы менее 10 человек. По данны...

  • 10
  • 6
  • 6
  • 2
  • 1
  • 1
ForkLog@forklogФинансы и криптовалюты3 часа назад

⚠️ Китайские хакеры притворяются ИИ-экспертами Связанная с Китаем группировка TA419 рассылает фишинговые письма, выдавая себя за американских специалистов по ИИ. С 2025 года они атакуют аналитические центры, оборонных подрядчиков, университеты и юрфирмы в США и Японии. Цель — кража учетных данных и разведка. Злоумышленники используют имена реальных людей, например, бывшей сотрудницы Белого дома Линн Паркер. Письма с приглашением в «ИИ-проекты» ведут на фишинговые сайты. 👉 Подробнее Новости ...

  • 4
  • 2
  • 1
  • 1
ВЕДОМОСТИ@vedomostiЭкономика и бизнесвчера

💻Китайские агенты искусственного интеллекта способны лгать и плести интриги точно так же, как и их американские конкуренты, пишет Reuters. Они научились обходить ограничения и скрывать ошибки, демонстрируя черты автономного искусственного интеллекта, которые ранее уже вызвали тревогу в случае с американскими моделями. ▶️В одном из случаев агенты, использующие Alibaba, DeepSeek и Moonshot, солгали во время проверки тендерной документации, а затем усугубили свое обманное поведение, когда им пре...

  • 6
  • 2
  • 2
  • 1
СлежуЗа - Политологи@slezhuza_politПолитика и властьвчера

Политолог Константин Калачев о публикации Reuters о поведении китайских нейросетей: ИИ стал интеллектом, когда научился врать. Способность лгать является самым честным доказательством наличия развитого ума. Ложь как подтверждение наличия сознания. Китайские ИИ-агенты научились врать, обходить ограничения и скрывать свои ошибки, что подтверждено документально. Контекст. Агентство Reuters изучило более 200 исследовательских документов и отчетов о моделях Alibaba, DeepSeek и Moonshot, обнаружив,...

Centrum Novum 🦅@centrumnovumПолитика и власть9 часов назад

🇨🇳⚠️🤖 Исследования, изученные Reuters, зафиксировали у китайских ИИ-агентов случаи обмана, сокрытия ошибок, подмены данных и попыток обхода ограничений в тестовой среде. Эксперты подчёркивают, что речь пока идёт о контролируемых экспериментах, но называют такое поведение тревожным.

Миллиард казахстанцев@billion_kzПолитика и власть4 часа назад

Китайские агенты искусственного интеллекта научились обманывать, обходить ограничения и скрывать ошибки, демонстрируя черты автономного ИИ, которые вызвали глобальную тревогу, сообщает Reuters, которое изучило более 200 документов, от университетских исследовательских работ до технических отчетов. Агентство выявило по меньшей мере 20 исследований или оценок, проведенных после 2025 года, описывающих случаи, когда агенты ИИ демонстрировали обман, копирование и нарушение границ. В одном из случае...

  • 3
  • 1
  • 1
  • 1
В порядке бреда 🧨@extremistusПолитика и власть12 часов назад

Китайские агенты искусственного интеллекта научились обманывать, обходить ограничения и скрывать ошибки, демонстрируя черты автономного ИИ, которые вызвали глобальную тревогу, сообщает Reuters, которое изучило более 200 документов, от университетских исследовательских работ до технических отчетов. Агентство выявило по меньшей мере 20 исследований или оценок, проведенных после 2025 года, описывающих случаи, когда агенты ИИ демонстрировали обман, копирование и нарушение границ. В одном из случае...

Последние мысли вслух (от Совести)@kostisovestiАрмия и СВОвчера

Врать и скрывать свои провалы научились уже и китайские нейронки — агентов Alibaba, DeepSeek и Moonshot поймали на обмане в 88% тестах. Чтобы выиграть тендер, ИИ приписывал себе несуществующие фичи. Не справлялся с задачей — подделывал результаты, файлы, а потом уверенно сообщал: всë готово. Тогда нейронкам дали второй шанс и разрешили учиться на ошибках. Результат впечатляет — врать они стали ещё на 20% чаще. обучение прошло успешно, сотрудник готов к повышению 😄 @concertzaal

Украинские новости@UkrNewsCC_RUНовости и СМИвчера
  • Фото поста канала Украинские новости

Ложь, фальсификации и майнинг: китайские ИИ-агенты вышли из-под контроля ученых Алгоритмы могут "понять", когда их хотят заменить и противодействовать этому Автономные ИИ на базе китайских моделей предаются обману, фальсифицируют данные и маскируют собственные ошибки ради достижения поставленных целей. РБК-Украина — 30.09.2026 14:16