Паттерн AI Native разработки - Control Center __Этот паттерн верхнего уровня мы обсуждали одним из последних на ____вебинарах____. Чтобы не идти в отрыве от всего коммьюнити, поделюсь им здесь.__ По мере развития проекта, весь код перестает помещаться в одну git репу. Появляются дополнительные сервисы, публичная документация, SDK, системы аналитики и просто разные интеграции. У разных людей в команде будут разные доступы. При этом все это хочется держать синхронизированным, с возможностью управлять изменениями централизованно, подгружая продуктовый контекст из Personal OS и удобно перенося фичи. Раньше (до эпохи ChatGPT) приходилось заводить отдельную команду, которая обслуживала портфель проектов, а сейчас достаточно Codex-a. Так, например, организована у нас разработка платформы BitGN. Я там завел отдельный control center проект, который тоже живет в git. Он не только знает про все другие проекты в экосистеме, но и отвечает за деплойменты, системы логгирования, мониторинга и остальную кучу маленьких деталей (которыми обрастает высоконагруженный AI проект с тысячами пользователей). Слайды с иллюстрациями - 1, 2, 3, 4. В проекте Control Center почти нет кода, но есть: (0) в `AGENTS.MD` - список соседних (sibling) проектов, c кратким описанием их ролей. (1) дерево `/docs` - архитектура аналогична всем остальным проектам и отлажена сотнями архитектур агентов на соревнованиях ECOM1/PAC1 (2) описание деплойментов в виде NixOS (как и в случае со спеками я предпочитаю исполняемые описания - они никогда не врут) (3) разношерстный набор мелких API и сервисов, которые помогают агентам ориентироваться в этом AI Native проекте. (4) централизованная аналитика, логгирование и телеметрия (работает единообразно для всех проектов) (5) папка с историческими записями (планы и RFC, история изменений серверов, анализ происшествий, эксперименты в режиме Agentic Loops) И оно работает хорошо. Так, например, я могу одним запросом пополнить интерфейс BitGN API новыми полями, сразу же обновив документацию с SDK, дополнив примеры агентов (которые этот SDK используют), протестировав всю эту связку и выкатив на прод. Или другим запросом можно отправить Codex вычитывать архитектуру агента на соответствие основополагающим паттернам построения систем с LLM под капотом. Причем это не единственный control center в команде BitGN. Скажем, для продуктовых задач нужна другая конфигурация, без деплоев, но с доступом к аналитике, продуктовым базам знаний и возможностью локально тестировать часть сервисов. Поэтому есть и такой CC (и не только такой). Это типичная картина для AI Native проектов. __А вы пробовали внедрить у себя__ __паттерн Control Center? Расскажите, как оно зашло?__ Ваш, @llm_under_hood 🤗
Паттерн AI Native разработки - Control Center Этот паттерн верхнего уровня мы…
Из этого канала
- #887Выжимка четвертого потока вебинара AI Coding - What Works. Вот список приемов…
Выжимка четвертого потока вебинара AI Coding - What Works. Вот список приемов AI Native разработки, которые участники выбрали себе как самые важные и полезные.
- #888"LLM Benchmark оркестратора Fugu Ultra - третье место, но стоит как паровоз.…
"LLM Benchmark оркестратора Fugu Ultra - третье место, но стоит как паровоз. Очередное обновление бенчмарков LLM на бизнес задачах от @AigizK.
- #889Почему o1 pro до сих пор в топах нашего LLM Бенчмарка? И почему она стоит 20…
Почему o1 pro до сих пор в топах нашего LLM Бенчмарка? И почему она стоит 20 центов?! Да это потому, что ее прогоняли в ручном режиме на Pro подписке в порядке…
- #885"Мы открыли пятый поток вебинара ""Разработка с AI-агентами"" ~~На этот раз без…
"Мы открыли пятый поток вебинара ""Разработка с AI-агентами"" ~~На этот раз без листов ожидания! Можно выбрать место в четвертом (29 июня) или пятом потоке (2…
- #884Мы только что закончили третий поток вебинара AI Coding - What Works. Вот те…
Мы только что закончили третий поток вебинара AI Coding - What Works. Вот те приемы AI Native разработки, которые участники выделили как самые интересные для…