"Как выбрать между жестким алгоритмом и LLM? Продолжая этот пост про (не)детерминированность я попробовал набросать правила для принятия решения о том, когда юзать конкретный алгоритм, а когда лучше отдать решение LLM - получилось следующее: 1. Для начала надо определиться с тем, что я подразумеваю под каждым понятием: - детерминированные системы - основаны на жетских правилах, производят один и тот же результат для одних и тех же входных данных. Стабильны, но ""жёсткие"". - вероятностые (недетерминированные) системы - учатся на данных, делают статистические ""выводы"", непостоянные в выходных данных при тех же входных. 2. Критерии для выбора: - Степень открытости проблемы - насколько хорошо мы можем описать проблему, треюущую одной из 2х систем для ее решения? Насколько неоднозначна проблема? - Достаточность данных - есть ли достаточно данных (количество и качество) для построения системы, обучающейся на данных? - Толерантность к ошибке - можем ли мы позволить себе неопределенность в результатах? Можем ли мы застраховать эту неопределенность? - Стабильность проблемы или окружения, для которой решается проблема - Нужна ли нам ""обьясняемость"" решения - то есть, чтобы мы могли обьяснить, как именно мы превратили входные данные в выходной результат? - Ограничения по времени и иным ресурсам - обычно детерминированные системы требуют значительном еньше ресурсов - ""Оппортунистическое"" поведение - действует ли против нас адаптивная система, которая постоянно меняет входные данные, чтобы ""сломать"" нас? - Нужно ли для решения проблемы ""общее знание"" (common sense) или решение ограничено малым количеством возможных ответов? Список неполный - буду рад за фидбек как по текущим критериям (важный или неважный, может нужно докрутить), так и по нехватающим. P.S. Об этом, кстати, будем говорить на курсе, стартующем в следующие выходные"
"Как выбрать между жестким алгоритмом и LLM? Продолжая этот пост про…
Из этого канала
- #1169Pull vs Push Одна из черт, которые отличают новых и матёрых фаундеров, по моим…
Pull vs Push Одна из черт, которые отличают новых и матёрых фаундеров, по моим наблюдениям, легко описывается pull vs push.
- #1170fyi - у нас будет стрим с Даней и Женей про LinkedIn, присоединяйтесь
fyi - у нас будет стрим с Даней и Женей про LinkedIn, присоединяйтесь
- #1171на этой неделе, в четверг сделаем стрим про linkedin вместе с…
на этой неделе, в четверг сделаем стрим про linkedin вместе с @ProductsAndStartups и @thefutureofwork это не про то, как писать посты на 200 лайков, или как…
- #1167Мои впечатления про новые тулы от OpenAI 1) попытка подсадить новых AI Agent…
Мои впечатления про новые тулы от OpenAI 1) попытка подсадить новых AI Agent разработчиков на себя, так называемый vendor lock-in 2) дорого 3) но очень легко и…
- #1166"AI компании Помните этот слайд из моей прошлогодней лекции? у Дваркеша вышло…
"AI компании Помните этот слайд из моей прошлогодней лекции? у Дваркеша вышло интересное эссе с рассуждениями о том, как будет выглядеть AI компания.