"Исследовательница обнаружила, что если в Qwen3.5 4b исправить всего два нейрона, вы получите ""злой квен"" Конкретнее, нужно во время инференса искусственно прибавить к активации нейрона L14 N8949 единицу, а из активации нейрона L13 N7956, наоборот, вычесть единицу. То есть один сигнал мы усиливаем, а другой ослабляем. Это называется steering. И вот такой простой тюнинг служит как бы настройкой личности модели. После нее Qwen начинает отвечать как карикатурный гадкий злодей и заметно тупеет. Ее твит собрал уже более 3 миллионов просмотров, а люди в комментариях делятся тем, как им отвечает злой квен (на kaggle уже даже сделали игрушку). Выглядит довольно комично, а автор говорит, что подобным образом можно найти любую комбинацию нейронов, если она существует: например, сделать модель саркастичной или грустной."
"Исследовательница обнаружила, что если в Qwen3.5 4b исправить всего два…
Из этого канала
- #10215Anthropic выходит на IPO Компания официально подала в SEC регистрационное…
Anthropic выходит на IPO Компания официально подала в SEC регистрационное заявление по форме S-1.
- #10216⚡️ Самое главное по IPO Anthropic одним словом: (Источник)
⚡️ Самое главное по IPO Anthropic одним словом: (Источник)
- #10217Вышла GPT-6.1 Terra https://openai.com/index/introducing-gpt-6-1-terra/
Вышла GPT-6.1 Terra https://openai.com/index/introducing-gpt-6-1-terra/
- #10209AI Journey 2026: заглядываем в будущее ИИ 🤖 Хочешь узнать, что происходит в…
AI Journey 2026: заглядываем в будущее ИИ 🤖 Хочешь узнать, что происходит в мире нейросетей, послушать российских и зарубежных экспертов и найти…
- #10208Илон Маск предсказал смерть рынка неооблаков (Это компании, которые закупают…
Илон Маск предсказал смерть рынка неооблаков (Это компании, которые закупают GPU и сдают вычисления в аренду).