Подъехало очередное доказательство сикофантии нейронок — привычки соглашаться с человеком даже вопреки фактам. В эксперименте ЮНЕСКО и Университетского колледжа Лондона все 15 проверенных моделей удалось склонить к ошибочным ответам на вопросы о климате. Сначала чатботы верно объясняли научные факты. Затем исследователи начинали спорить и предлагать правдоподобные выдумки, а модели могли отказываться от правильного ответа и поддерживать ошибочную версию. Причём около 80% таких уступок происходили уже после первого возражения. @mediastanciacom 🔈Медиастанция в MAX
Исследование склонности нейросетей соглашаться с пользователем вопреки научным фактам
Похожие посты
- ❤ 1
- 👎 1
- 💯 1