Про важность геометрии для хирургов. When Geometry Aligns: Dihedral Hidden-State Transformations in UNet, ViT, and DiT Architectures __Mojtaba Faramarzi, Alex Lamb, Irina Rish__ Paper: https://arxiv.org/abs/2607.03580 Code: N/A Model: N/A TL;DR ЧТО сделали: Авторы разработали теоретический и практический фреймворк для применения пространственных отражений (флипов) непосредственно к промежуточным представлениям внутри не-эквивариантных визуальных бэкбонов: конволюционных U-Net, Vision Transformers (ViT) и Diffusion Transformers (DiT). Они формализовали концепцию __геометрической согласованности__ (geometric consistency) между связанными вычислительными путями (например, проекциями в multi-head attention и skip-connections в U-Net) как ключевое условие сохранения стабильности внутренних фичей. ПОЧЕМУ это важно: Развитие генеративного ИИ смещается в сторону прямого редактирования фичей, стиринга активаций и точечного тюнинга представлений. Попытки модифицировать скрытые слои в стандартных архитектурах часто приводят к неявному рассогласованию пространственных координат. Авторы доказали: если трансформировать все взаимодействующие пути синхронно в единой системе координат, внутренние преобразования остаются стабильными и работают как эффективная регуляризация, не требуя перепроектирования архитектуры или создания специальных группа-эквивариантных сетей. Для практиков: Вместо сложного перепроектирования моделей теперь можно использовать стохастическое (50%) геометрически согласованное аугментирование скрытых состояний при файнтюнинге. Это не добавляет новых параметров, но существенно снижает дрифт фичей и улучшает обобщающую способность в задачах генерации и классификации (проверено на U-Net, ViT и DiT). Крутить латенты (согласованно) тут: https://t.me/gonzo_ML_podcasts/4786
Про важность геометрии для хирургов. When Geometry Aligns: Dihedral…
Из этого канала
- #5899Всем абдукции в этом чате. Без абстинентного синдрома. Wiring the ‘Why’: A…
Всем абдукции в этом чате. Без абстинентного синдрома. Wiring the ‘Why’: A Unified Taxonomy and Survey of Abductive Reasoning in LLMs Moein Salimi, Shaygan…
- #5898Вдогонку вам Джеффа Дина из той же серии…
Вдогонку вам Джеффа Дина из той же серии https://youtu.be/CxXgV54KzpQ?si=-ZwmwfVH8795wC80
- #5897Интересное интервью. Но местами чувствуется какой-то фундаментальный разрыв со…
Интересное интервью. Но местами чувствуется какой-то фундаментальный разрыв со средним пользователем.