В блогпосте релиза есть интересный раздел про кибербезопасность. В нём описано, что веса, которые мы получим до 4-го ноября, это не та же модель, что есть у компании (и которая скорее всего развёрнута на их инфраструктуре) — для обучения открытой версии из данных обеих стадий тренировки (скорее всего SFT + RL, не претрейн на всём интернете) выкинули весь контент, связанный с кибербезопасностью. Если быть совсем глупеньким — я вчера в первые часы после релиза уже такое видел 😳 — то можно подумать, что вот, мол, обезопасили веса, так и надо, теперь то никто не будет использовать модель для взломов, она же не сможет ничего. Но это не так, сами Moonshot опубликовали таблицу с метриками на внутреннем бенчмарке по созданию эксплоитов — и по ней видно, что даже с выкидыванием данных модель всё ещё гораздо лучше предыдущей Kimi K3, обходил GLM-5.3, и в среднем лучше DeepSeek-v4.1-Flash (не ясно какой, свежей? или летней?). GPT-5.6-Sol обходит открытые модели на этом бенчмарке, но написано, что её тестировал кто-то другой, и деталей нет. Может быть модель работала не из коробки, а в рамках Daybreak — программы, участникам которой немного ослабляют фильтры и разрешают работать над защитными мерами кибербезопасности. Уж не знаю, какая модель станет любимой у хакеров, Kimi K3.1 или свежий DeepSeek, но количество взломов и используемых уязвимостей будет расти 😳 даже при том, что из тренировки убрали какие-то данные. Если уж на то пошло, то наоборот выходит, что простые и доступные способы как раз таки не решают проблему, а лишь слегка отодвигают её на 3-5 месяцев.
В блогпосте релиза есть интересный раздел про кибербезопасность. В нём описано,…
Из этого канала
- #4005В комментариях задали вопрос «а что делать-то?», но ответа на него у меня нет.…
В комментариях задали вопрос «а что делать-то?», но ответа на него у меня нет. Быть может выход будет в том, что именно веса модели выкладываться не будут, но…
- #4006В преддверии IPO Anthropic две финансовые новости в одной! Первая — прочитал…
В преддверии IPO Anthropic две финансовые новости в одной! Первая — прочитал блог «Сможет ли компания Anthropic выполнить свои обязательства на сумму 518…
- #4007На неделе DeepSeek выложили DeepInfer, свой код для инференса DeepSeek v4.1…
На неделе DeepSeek выложили DeepInfer, свой код для инференса DeepSeek v4.1 Flash.
- #4002Вышла Kimi K3.1 Pro. Веса выложат 4-го ноября, пока можно поиграться на…
Вышла Kimi K3.1 Pro. Веса выложат 4-го ноября, пока можно поиграться на официальном сайте/платформе (и наверное у партнёров тоже будет).
- #4001Я хотел написать в новости «если бы эту уязвимость нашёл рой агентов (и начал…
Я хотел написать в новости «если бы эту уязвимость нашёл рой агентов (и начал эксплуатировать), то я не исключаю, что как минимум некоторые провайдеры и/или…