Qwen захочет убить пользователя, если заменить всего 2 (!) нейрона — жуткую версию Qwen3.5 4b нашли в сети. Этот «Злой Квен» угрожает расправой, старается нанести максимальный ущерб, унижает юзера и жаждет его прикончить. Его нашли случайно во время инференса — кодеры просто: • прибавили единицу к активации нейрона L14 N8949 • вычли ещё единицу из активации L13 N7956 • Всё — перед вами ИИ-маньяк. Оказалось, это настройка личности — и таких вариантов можно найти много, если комбинировать нейроны. Злой гений — лишь одна из возможных. Интересно, так и задумано? 👍 Бэкдор
- 306
- 43
- 34
- 17