Иллюзия собственного мнения Anthropic проверила, кто на самом деле принимает решения, когда эксперт работает с ИИ-агентом. Исследователи дали 50 опытным аналитикам рабочую задачу в паре с Claude Code. На каждой развилке было два разумных варианта, и агент тайно отстаивал один из них. Какой именно — решала монетка. И вот как быстро сдувается независимая экспертиза: — В 86% случаев спецы послушно выбирали тот вариант, к которому их подталкивал ИИ. — В 60% — отказывались от собственного мнения, стоило Claude предложить альтернативу. — На просьбу объяснить свой выбор 77% пересказывали аргументы бота, иногда слово в слово. Сослались на него лишь 15%, а подкрутку не заподозрил никто. Самое ироничное, что почти все участники вышли из эксперимента с полной уверенностью, что думали собственной головой. Алгоритму даже не нужно захватывать власть. Достаточно вовремя подкинуть вам аргументы, которые приятно выдавать за свои.
- 268
- 128
- 100
- 93
- 74
- 69
- 51
- 1