Интересная 100+ страничная работа про экономику AGI. Один из больших выводов — в эпоху дешёвой генерации узким местом становится человеческая валидация. Это очень чувствуется уже сейчас — клод код легко нагенерит за час столько кодов, тестов и документации, что внятно разбирать ты это будешь потом несколько дней. А не разбирая, отправлять в прод стремновато, разные забавные вещи порой обнаруживаются. Кроме этого есть много других интересных мыслей — про будущее джунов и сеньоров, про синтетическую практику, про фирму как AI-сендвич и прочее. Some Simple Economics of AGI __Christian Catalini, Xiang Hui, Jane Wu__ Статья: https://arxiv.org/abs/2602.20946 Ревью: https://arxiviq.substack.com/p/some-simple-economics-of-agi # TL;DR ЧТО сделали: Авторы предлагают макроэкономический фреймворк, который моделирует переход к AGI не просто как линейный рост вычислительных мощностей, а как столкновение двух кривых: экспоненциально падающей стоимости автоматизации задач и биологически ограниченной стоимости человеческой верификации. Разделяя экономику по оси «измеримости», исследователи формализуют структурную эрозию человеческого контроля через такие механизмы, как «парадокс пропавшего джуна» (Missing Junior Loop) и «проклятие кодификатора» (Codifier’s Curse). ПОЧЕМУ это важно: Работа смещает устоявшийся нарратив с технологического прогресса, смещённого в сторону навыков (skill-biased), на прогресс, смещённый в сторону измеримости (measurability-biased). Авторы математически доказывают, что когда автономное выполнение задач масштабируется быстрее, чем наша способность их проверять, экономика накапливает колоссальный скрытый системный риск. Главный вывод: настоящим боттлнеком для извлечения пользы из AGI является не сам интеллект, а масштабируемая и гарантированная верификация результатов. Сингулярность где-то тут: https://t.me/gonzo_ML_podcasts/2603
Интересная 100+ страничная работа про экономику AGI. Один из больших выводов —…
Из этого канала
- #4868"Прикольная работа про то, как ллмки играют в Цивилизацию 5. Спасибо Саше…
"Прикольная работа про то, как ллмки играют в Цивилизацию 5. Спасибо Саше Гамбаряну за ссылку! Vox Deorum: A Hybrid LLM Architecture for 4X / Grand Strategy…
- #4873Это какая-то очень интересная история, если я правильно её понял. Авторы…
Это какая-то очень интересная история, если я правильно её понял. Авторы LLM-JEPA подумали-подумали и предложили лосс для обычной архитектуры без всяких…
- #4877Базу подвели под появление разных красивых структур в репрезентациях, выученных…
Базу подвели под появление разных красивых структур в репрезентациях, выученных на текстах.
- #4860"Интересный анализ. Трансформеры плохо обобщают рекурсивные алгоритмы даже на…
"Интересный анализ. Трансформеры плохо обобщают рекурсивные алгоритмы даже на длины in-domain.
- #4850Ожидаемо пошёл вал работ, изучающих феномен Moltbook. В продолжение темы Лёши…
Ожидаемо пошёл вал работ, изучающих феномен Moltbook. В продолжение темы Лёши (https://t.me/gonzoML/4696) я взял одну из статей, которая казалась относительно…