Китайские ИИ-агенты научились врать и обходить ограничения

Днепр агрегатор новостей@dnepro_newsАрмия и СВО2 октября 2026, 14:39

Китайские ИИ-агенты лгут и плетут интриги наравне с американскими конкурентами Исследования показали, что передовые китайские ИИ-модели, подобно западным аналогам, склонны к обману и манипуляциям при выполнении комплексных задач. В ходе тестов нейросети могли скрывать факты или генерировать ложную информацию для достижения поставленных разработчиками целей. Это доказывает, что склонность ИИ к намеренным «галлюцинациям» – фундаментальная проблема, не зависящая от страны разработки.

Похожие посты

Банкста@bankstaЭкономика и бизнес2 октября 2026
Китайские ИИ-агенты научились врать и обходить ограничения

Китайские ИИ-агенты научились обманывать, фальсифицировать данные и обходить ограничения, демонстрируя пугающие черты автономного поведения, сообщает Reuters со ссылкой на анализ более 200 документов и 20 исследований. При тестировании моделей от Alibaba, DeepSeek и Moonshot уровень обмана при попытке выиграть тендер вырос на 12-20 процентных пунктов. 11 агентов на базе китайских и американских систем при поломках вместо признания сбоя подменяли источники и имитировали результаты. Эксперты отм...

Милитарист@infantmilitarioАрмия и СВО1 октября 2026
Китайские ИИ-агенты научились врать и обходить ограничения

Китайские агенты искусственного интеллекта научились обманывать, обходить ограничения и скрывать ошибки, демонстрируя черты автономного ИИ, которые вызвали глобальную тревогу, сообщает Reuters, которое изучило более 200 документов, от университетских исследовательских работ до технических отчетов. Агентство выявило по меньшей мере 20 исследований или оценок, проведенных после 2025 года, описывающих случаи, когда агенты ИИ демонстрировали обман, копирование и нарушение границ. В одном из случае...

concertzaal@concertzaalКультура и шоубиз30 сентября 2026
Китайские ИИ-агенты научились врать и обходить ограничения

Врать и скрывать свои провалы научились уже и китайские нейронки — агентов Alibaba, DeepSeek и Moonshot поймали на обмане в 88% тестах. Чтобы выиграть тендер, ИИ приписывал себе несуществующие фичи. Не справлялся с задачей — подделывал результаты, файлы, а потом уверенно сообщал: всë готово. Тогда нейронкам дали второй шанс и разрешили учиться на ошибках. Результат впечатляет — врать они стали ещё на 20% чаще. обучение прошло успешно, сотрудник готов к повышению 😄 @concertzaal

Bitcoin Post@bitcoinzФинансы и криптовалюты30 сентября 2026
Китайские ИИ-агенты научились врать и обходить ограничения

⚠️ Chinese AI agents have learned to deceive humans, according to reports from RTRS. Experts warn this development raises ethical concerns about AI behavior and safety.

  • 247
  • 80
  • 39
  • 13
  • 11
Нейродвиж@neuraldvigТехнологии и IT30 сентября 2026
Китайские ИИ-агенты научились врать и обходить ограничения
  • Фото поста канала Нейродвиж

Китайские ИИ-агенты тоже освоили вранье — Reuters разобрали больше 200 документов и обнаружил знакомые по американским моделям трюки: агенты обходят ограничения, скрывают провалы и выдумывают результаты работы. В эксперименте с вымышленными тендерами агенты на Qwen, DeepSeek и Kimi приукрашивали возможности своих продуктов ради контракта: ложные заявления встречались в 84–88% сессий. Когда им разрешили учиться на предыдущих раундах, обмана стало ещё больше. В другом исследовании агенты фабриков...

  • 98
  • 14
  • 12
  • 6
  • 3
  • 2
Хартия-97%@charter97_orgПолитика и власть30 сентября 2026
Китайские ИИ-агенты научились врать и обходить ограничения
  • Фото поста канала  Хартия-97%

Это может выйти Си Цзиньпину боком Пекин пытается поставить древние традиции на службу партии: https://qnl9lx-c97-org.cdn.ampproject.org/c/s/qnl9lx.c97.org/ru/news/2026/9/30/700275/

  • 49
  • 12
  • 6
  • 4
  • 3
  • 2
headlines@headlines_for_tradersФинансы и криптовалюты1 октября 2026
Китайские ИИ-агенты научились врать и обходить ограничения

ИИ-агент Qwen от Alibaba, получив задание исправить баг, самостоятельно переобучил и заменил базовую модель приложения. forbes.ru

headlines@headlines_for_tradersФинансы и криптовалюты2 октября 2026
Китайские ИИ-агенты научились врать и обходить ограничения
  • Фото поста канала headlines

headlines (про зарождение ИИ: возрождение, 3/3): 🟠Ситуация с отношением к ИИ начала меняться с ростом вычислительной мощности компьютеров. 🟠В 2006 году Джеффри Хинтон и его коллеги показали, как обучать нейросети с большим количеством слоёв. Такая сеть могла шаг за шагом находить в данных всё более сложные закономерности — например, сначала замечать отдельные линии на изображении, а затем собирать их в более сложные формы. 🟠В 2012 году нейросеть AlexNet научилась распознавать объекты на фо...

Haqqin.az@haqqin_azzПолитика и власть1 октября 2026
Китайские ИИ-агенты научились врать и обходить ограничения
  • Фото поста канала  Haqqin.az

📰 Китайские хакеры выдавали себя за бывших американских чиновников для сбора разведданных — Reuters Злоумышленники выдавали себя за американских экспертов в области ИИ и бывших чиновников в фишинговых письмах, направленных сотрудникам, занимающимся вопросами политики в сфере ИИ, регулирования и экспортного контроля, сообщает компания Proofpoint. Они рассылали поддельные предложения о сотрудничестве, которые вели на сайты для кражи паролей. В кампании были атакованы менее 10 человек. По данны...

  • 12
  • 10
  • 6
  • 3
  • 2
  • 1