Исследование склонности нейросетей соглашаться с пользователем вопреки научным фактамАрмия и СВОвчераПостов: 2Каналов: 2visibility3.3К
Темы. Главное (ГлавМедиа)@glavmediaАрмия и СВОвчераmore_horizПодъехало очередное доказательство сикофантии нейронок — привычки соглашаться с человеком даже вопреки фактам. В эксперименте ЮНЕСКО и Университетского колледжа Лондона все 15 проверенных моделей удалось склонить к ошибочным ответам на вопросы о климате. Сначала чатботы верно объясняли научные факты. Затем исследователи начинали спорить и предлагать правдоподобные выдумки, а модели могли отказываться от правильного ответа и поддерживать ошибочную версию. Причём около 80% таких уступок происходи...ещё❤ 1 👎 1 💯 1
global_chan@global_chanПолитика и властьвчераmore_horizПодъехало очередное доказательство сикофантии нейронок — привычки соглашаться с человеком даже вопреки фактам. В эксперименте ЮНЕСКО и Университетского колледжа Лондона все 15 проверенных моделей удалось склонить к ошибочным ответам на вопросы о климате. Сначала чатботы верно объясняли научные факты. Затем исследователи начинали спорить и предлагать правдоподобные выдумки, а модели могли отказываться от правильного ответа и поддерживать ошибочную версию. Причём около 80% таких уступок происходи...ещё