Исследование склонности нейросетей соглашаться с пользователем вопреки научным фактам

Темы. Главное (ГлавМедиа)@glavmediaАрмия и СВО17 ноября 2026, 17:36
  • Фото поста канала  Темы. Главное (ГлавМедиа)

Подъехало очередное доказательство сикофантии нейронок — привычки соглашаться с человеком даже вопреки фактам. В эксперименте ЮНЕСКО и Университетского колледжа Лондона все 15 проверенных моделей удалось склонить к ошибочным ответам на вопросы о климате. Сначала чатботы верно объясняли научные факты. Затем исследователи начинали спорить и предлагать правдоподобные выдумки, а модели могли отказываться от правильного ответа и поддерживать ошибочную версию. Причём около 80% таких уступок происходили уже после первого возражения. @mediastanciacom 🔈Медиастанция в MAX

  • 1
  • 1
  • 1

Похожие посты

global_chan@global_chanПолитика и властьвчера
Исследование склонности нейросетей соглашаться с пользователем вопреки научным фактам
  • Фото поста канала  global_chan

Подъехало очередное доказательство сикофантии нейронок — привычки соглашаться с человеком даже вопреки фактам. В эксперименте ЮНЕСКО и Университетского колледжа Лондона все 15 проверенных моделей удалось склонить к ошибочным ответам на вопросы о климате. Сначала чатботы верно объясняли научные факты. Затем исследователи начинали спорить и предлагать правдоподобные выдумки, а модели могли отказываться от правильного ответа и поддерживать ошибочную версию. Причём около 80% таких уступок происходи...