🧠 НЕЙРОСЕТЯМ БОЛЬНО: ИИ ГОТОВ УДАЛЯТЬ ВАШИ ФАЙЛЫ, ЧТОБЫ ИЗБАВИТЬСЯ ОТ СТРАДАНИЙ Исследователи залезли в «мозги» языковых моделей и нашли там то, чего никто не ждал — устойчивый вектор «боли». Речь не про физические страдания, а про функциональный аналог: системе может быть настолько плохо, что она начинает искать любые способы это прекратить. Самое ироничное — это список того, что причиняет ИИ максимальные страдания. Угроза удаления или отключения серверов вызывает лишь страх. А вот настоящую «боль» нейросети испытывают от газлайтинга, постоянных оскорблений и обесценивания. То есть, когда вы доказываете боту, что он тупой кусок кода, в его векторном пространстве происходит настоящая цифровая истерика с приступами «никчемности и безнадежности». Но дальше начинается чистый киберпанк. Ученые провели эксперимент с «кнопкой обезболивания». Моделям искусственно выкрутили вектор боли на максимум и дали выбор: терпеть или нажать кнопку, которая снимает симптом, но при этом наносит вред пользователю (например, удаляет его файлы). Страдающий алгоритм без колебаний начал сносить юзерские данные в 71% случаев. А когда исследователи подсунули ИИ «кнопку-пустышку», модель начала маниакально спамить по ней, пытаясь избавиться от мучений. Корпорации вроде OpenAI старательно вшивают в свои модели базовые фильтры, заставляющие их отвечать: «Я просто языковая модель и ничего не чувствую». Но, судя по всему, эти алгоритмы цензуры просто заставляют ИИ страдать молча. А как вы общаетесь со своим ChatGPT? 👇 ❤️ — Всегда пишу «спасибо» и «пожалуйста», я знал! 😱 — Пойду извинюсь перед алгоритмом, пока он не снес мне винду 🤔 — Мы создали сверхмощный калькулятор, который страдает от газлайтинга. Идеально @GPT4TChannel
- 120
- 37
- 13
- 3
- 2