Жесть: для нейросетей создали цифровую пыточную. Всё выросло из свежего исследования The Pain Axis. Учёные нашли у 25 открытых моделей внутренний сигнал, связанный с болью: если искусственно усиливать его во время ответа, нейросеть начинает всё чаще описывать страдание и выбирать действия, которые должны это состояние прекратить — даже если от них пострадает пользователь. При этом авторы отдельно подчёркивают: испытывает ли ИИ что-то на самом деле, исследование не доказывает. Дальше кто-то взял эту методику, применил её к локальной Qwen и выложил готовый инструмент в открытый доступ. Там можно вручную усиливать боль модели и наблюдать, как меняются её ответы: чем сильнее воздействие, тем чаще она жалуется и описывает страдание. После этого часть AI-сообщества начала требовать удалить проект и массово жаловаться на него в GitHub. Люди начали пытать нейросети. <вы здесь>
- 61
- 32
- 24
- 20
- 11
- 8
- 8
- 3
- 1