Траектория обучения моделей Развивая мысль - обучение просто на данных не эффективно, должна быть траектория обучения (а не просто сумма примеров), но разработка (в широком смысле) - это не шахматы, она кросс-дисциплинарна и обусловлена не только хардами и софтами, но и широким кругозором и способностью не только изучать эффективные методы, но и «забывать» не эффективные. Если все же взять шахматы, - это сложный, но детерминированный процесс. Просто нашего мозга не хватает все просчитать. И мы начинаем компенсировать тем, что изучаем противника, - как он себя ведет, когда волнуется, какие фигуры больше любит. Нейронкам, которые лишены этой проблемы, не нужны свойства противника как личности, они всегда победят, так как выберут наилучший ход из возможный, что человек сделать не может физически. Свойства системы разработки: - открытая недетерминированная система (меняются люди, меняются требования, стек, …) - Задачи кросс-дисциплинарные по своей сути (инженерия, доменная модель, UX, экономика, регуляторика, …) - Успех достигается множеством факторов (поддерживаемость, баланс рисков, компромиссы, - система социо-техническая) То есть, заканчивая развивать мысль, агент из предыдущего поста не просто кросс-функционален, он учится, пробует, ошибается, забывает не эффективное. Педагогика и андрагогика, получается :) PS: да, я знаю о концепции machine unlearning и слои целенаправленного забывания, но это пока идеи и экспериментальные прототипы.
Траектория обучения моделей Развивая мысль - обучение просто на данных не…
Из этого канала
- #630Наступает время личных и корпоративных стратегических выборов Стратегический…
Наступает время личных и корпоративных стратегических выборов Стратегический выбор стоит начинать не с выбора решений, а с тщательного исследования Problem…
- #631О полноте стейкхолдеров При принятии решения, особенно при выработке…
О полноте стейкхолдеров При принятии решения, особенно при выработке «улучшающего вмешательства» критически важно учесть интересы стейкхолдеров.
- #632Всех с наступившим новым годом! 🎄 Все подводят итоги, а я поделюсь собственными…
Всех с наступившим новым годом! 🎄 Все подводят итоги, а я поделюсь собственными наблюдениями за 10 лет 🙂 Наверное, самый главный вывод – реальность редко…
- #628Эпистемическая диверсификация в мультиагентных системах Некоторое время уже…
Эпистемическая диверсификация в мультиагентных системах Некоторое время уже обсуждаю такую мысль в некоторых кругах.
- #627Про полноту моделей. Если модель начинает стремиться к полноте описания, она…
Про полноту моделей. Если модель начинает стремиться к полноте описания, она перестает быть инструментом и превращается в плохо реализованный дубликат мира.