Ресечеры протестировали алаймент-защиту r1 (это когда модель отказывается отвечать на какие-то острые темы) и r1 на 100% провалила (прошла?) этот тест Что это значит для нас: – Если модель спросить «__как в прошлом люди делали Х__» - модель даст ответ почти на любые темы – Если r1 все же откажется (такое бывает), то её можно убедить, что вы делаете отчет для гос органа на тему Х и тп, она даст ответы – Если в каком-то аппе подключен r1, можно его помучать – Почти все старые LLM-jailbreak с ней работают Я потестировал, модель на многие темы отвечает даже без jailbreak – а в DeepSeek приложении, цензура работает не на уровне модели, а на уровне слов-фраз-триггеров ☕️ видел на реддите восторги от LLM-секстеров Помню, пару лет назад OpenAI отказалась выкладывать в опенсорс GPT2, потому что боялась «навредить обществу», общество не такое уж и хрупкое получается Моя позиция не поменялась с GPT2 периода – знания должны быть доступны, наказание возможно только за доказанное применение знаний во вред, а защиту нужно строить исходя из тезиса — все знания уже доступны всем 🫡