Исследование склонности нейросетей соглашаться с пользователем вопреки научным фактам

Армия и СВОвчера

Постов: 2Каналов: 23.3К

Темы. Главное (ГлавМедиа)@glavmediaАрмия и СВОвчера
  • Фото поста канала  Темы. Главное (ГлавМедиа)

Подъехало очередное доказательство сикофантии нейронок — привычки соглашаться с человеком даже вопреки фактам. В эксперименте ЮНЕСКО и Университетского колледжа Лондона все 15 проверенных моделей удалось склонить к ошибочным ответам на вопросы о климате. Сначала чатботы верно объясняли научные факты. Затем исследователи начинали спорить и предлагать правдоподобные выдумки, а модели могли отказываться от правильного ответа и поддерживать ошибочную версию. Причём около 80% таких уступок происходи...

  • 1
  • 1
  • 1
global_chan@global_chanПолитика и властьвчера
  • Фото поста канала  global_chan

Подъехало очередное доказательство сикофантии нейронок — привычки соглашаться с человеком даже вопреки фактам. В эксперименте ЮНЕСКО и Университетского колледжа Лондона все 15 проверенных моделей удалось склонить к ошибочным ответам на вопросы о климате. Сначала чатботы верно объясняли научные факты. Затем исследователи начинали спорить и предлагать правдоподобные выдумки, а модели могли отказываться от правильного ответа и поддерживать ошибочную версию. Причём около 80% таких уступок происходи...