"Как сделать бенчмарк Open Weights LLM на агентских задачах? (1) Берем одну архитектуру с известными результатами (2) Подменяем LLM под капотом на другую версию (3) Прогоняем несколько раз в тестовой среде (4) Заносим результат в табличку Так и поступил Ильяс со своим агентом Exoskeleton, который занял первое место в BitGN ECOM1 PROD в категории скорость. Получившиеся графики - в посте, детальное исследование описано у него в канале. Из интересных инсайтов - (1) Kimi оказался лучше, чем ожидалось (2) Если у модели дешевые токены, то это вовсе не значит, что она в итоге выдет дешевле. Умные модели могут закончить работу раньше и сэкономить tokens. (3) обычно приходится выбирать между ""быстро"" или ""качественно"". Попозже я добавлю ссылки на это исследование и в BitGN Insights, чтобы инженеры из 103 городов мира тоже могли воспользоваться результатами. А еще у нас в чате канала Victor Savkov публикует сравнительные результаты прогонов своей архитектуры с разными LLM на тех же задачах из ECOM1-PROD! Ваш, @llm_under_hood 🤗"
"Как сделать бенчмарк Open Weights LLM на агентских задачах? (1) Берем одну…
Из этого канала
- #881"Третий поток вебинара ""Разработка с AI-агентами"" В этот четверг, 25.06 в…
"Третий поток вебинара ""Разработка с AI-агентами"" В этот четверг, 25.06 в ~~10:00 CEST / 11:00 MOW~~, мы с Айгизом проведем третий поток вебинара про…
- #882Насколько критичен для вас полноценный Structured Output при работе с…
Насколько критичен для вас полноценный Structured Output при работе с локальными моделями? Напишите, пожалуйста, ответы в комментарии (не важен, предпочитаю,…
- #883"Разослали приглашения на вебинар ""Разработка с AI-агентами"" Желающих было…
"Разослали приглашения на вебинар ""Разработка с AI-агентами"" Желающих было столько, что сразу открыли два потока - третий завтра и четвертый в следующий…
- #878LLM Бенчмарк GLM-5.2 на бизнес-задачах GLM-5.2 - это очень интересная reasoning…
LLM Бенчмарк GLM-5.2 на бизнес-задачах GLM-5.2 - это очень интересная reasoning модель c контекстом в 1M и открытыми весами.
- #877После публикации инсайта про архитектуру агента Exoskeleton (вместе с…
После публикации инсайта про архитектуру агента Exoskeleton (вместе с исходниками), счетчик на платформе BitGN начал крутиться с удвоенной силой, а Exoskeleton…