"Log-Linear Attention [Статья][Код] Введение Вообще, давно пора было бы смириться с тем фактом, что лучше Attention ничего нет на свете, но человек в своем упрямстве продолжает искать альтернативы более быстрые и не уступающие по качеству. И коллектив авторов (звезд Голливуда в мире AI) выкатил статью про очередного ""убийцу"" ☠️ Attention - `Log-Linear Attention` ."
"Log-Linear Attention [Статья][Код] Введение Вообще, давно пора было бы…
Из этого канала
- #3691Метод Почти с момента выхода Attention было предложено много альтернатив с…
Метод Почти с момента выхода Attention было предложено много альтернатив с субквадратичной сложностью.
- #3692Очень обсуждаемая сейчас работа от исследователей из Apple про ризонинг модели:…
Очень обсуждаемая сейчас работа от исследователей из Apple про ризонинг модели: https://t.me/gonzoMLpodcasts/234 Из интересного, авторы постарались уйти от…
- #3693"В автообзорах пополнение, статья про DataRater…
"В автообзорах пополнение, статья про DataRater (https://t.me/gonzoMLpodcasts/245). Тема про ""не все данные одинаково полезны"".
- #3689"Я пока основное свободное время трачу на развитие и обновление своей системы…
"Я пока основное свободное время трачу на развитие и обновление своей системы генерации обзоров, на ручное временно не хватает.
- #3688Вот ещё тоже прекрасное
Вот ещё тоже прекрасное