Самый важный навык XXI века — вовремя понять, что нейросеть уверенно несёт ерунду. Даниэль Канеман популяризовал идею двух режимов мышления: быстрого и интуитивного — «Системы 1», и медленного, аналитического — «Системы 2». Теперь профессора Уортонской школы бизнеса Стивен Шоу и Гидеон Нейв предлагают добавить «Систему 3» — искусственный интеллект. Мы всё чаще подключаем его к решениям так же естественно, как собственную интуицию или логику: спросили — получили готовый вывод — пошли дальше. Проблема начинается в момент, когда происходит «когнитивная капитуляция»: человек принимает убедительный ответ ИИ за правильный и перестаёт анализировать его самостоятельно. В экспериментах исследователей участники могли следовать рекомендациям ИИ даже тогда, когда они были ошибочными, если ответ звучал достаточно уверенно. Защита от этого старая добрая — включать «Систему 2»: притормозить, проверить факты, задать второй вопрос и подумать, не выглядит ли ответ слишком удобным. Включать детектор ерунды — один из главных навыков эпохи ИИ. Главное — не попросить нейросеть включать его за вас. 🔥 Биохакеры / Мы в МАХ
- 54
- 31
- 9
- 9
- 2
- 1
- 1