Всем абдукции в этом чате. Без абстинентного синдрома. Wiring the ‘Why’: A Unified Taxonomy and Survey of Abductive Reasoning in LLMs __Moein Salimi, Shaygan Adim, Danial Parnian, Nima Alighardashi, Mahdi Jafari Siavoshani, Mohammad Hossein Rohban__ Paper: https://arxiv.org/abs/2604.08016v2 Code: N/A Model: N/A # TL;DR ЧТО сделали: Авторы подготовили первый масштабный обзор и эмпирический анализ абдуктивного мышления (abductive reasoning) в языковых моделях (LLM). Чтобы устранить понятийную путаницу в ML-сообществе, авторы формализовали концептуальный фреймворк, разделяющий абдукцию на два ключевых этапа: генерацию гипотез (Hypothesis Generation) и их отбор (Hypothesis Selection) на основе вывода к наилучшему объяснению (Inference to the Best Explanation, IBE). На основе этого фреймворка классифицировано более 60 работ по четырём осям, проведено тестирование 11 семейств открытых и закрытых моделей (от 3B до 72B параметров) и выполнен мета-анализ соотношения абдуктивных, дедуктивных и индуктивных способностей. ПОЧЕМУ это важно: Абдуктивное мышление — то есть поиск наиболее вероятного объяснения для неожиданного наблюдения — лежит в основе медицинской диагностики, научных открытий, юриспруденции и поиска неисправностей. До сих пор в AI-исследованиях абдукцию трактовали фрагментарно: простой выбор из вариантов ответа путали с настоящей генерацией гипотез или ошибочно полагали, что сильная дедукция автоматически гарантирует абдуктивные навыки. Работа закладывает единый фундамент в этой области, эмпирически доказывая: высокий скор в дедукции не означает наличия абдуктивных способностей, а при переходе от выбора готовых гипотез к генерации объяснений «с нуля» качество работы LLM резко падает. Для практиков: Для разработчиков и исследователей, создающих сложные reasoning-системы, обзор наглядно показывает: современные LLM отлично справляются с выбором гипотез в закрытом формате, но теряются при генерации объяснений с нуля в открытых сценариях и длинном контексте. Стандартный файнтюнинг (SFT) и обучение по максимальному правдоподобию не оптимизируют модель под фундаментальные критерии качественного объяснения (лаконичность, непротиворечивость, причинно-следственная логика). Чтобы перейти от поверхностного сопоставления паттернов к настоящему абдуктивному выводу, индустрии нужен сдвиг в сторону RL с процессуальными вознаграждениями (process rewards), интерактивных бенчмарков в узких доменах (медицина, право), мультиагентных систем и интерпретируемости на уровне нейронных контуров (circuits). Абдуцировать тут: https://t.me/gonzo_ML_podcasts/4785
Всем абдукции в этом чате. Без абстинентного синдрома. Wiring the ‘Why’: A…
Из этого канала
- #5905Про важность геометрии для хирургов. When Geometry Aligns: Dihedral…
Про важность геометрии для хирургов. When Geometry Aligns: Dihedral Hidden-State Transformations in UNet, ViT, and DiT Architectures Mojtaba Faramarzi, Alex…
- #5898Вдогонку вам Джеффа Дина из той же серии…
Вдогонку вам Джеффа Дина из той же серии https://youtu.be/CxXgV54KzpQ?si=-ZwmwfVH8795wC80
- #5897Интересное интервью. Но местами чувствуется какой-то фундаментальный разрыв со…
Интересное интервью. Но местами чувствуется какой-то фундаментальный разрыв со средним пользователем.
- #5895Не уверен всё же, что буду продолжать с форматом статей в телеге. Toward…
Не уверен всё же, что буду продолжать с форматом статей в телеге. Toward Skill-Native LLMs: Skill Entropy for Benchmarking and Training Long-Horizon Reasoning…