Building A Generative AI Platform - __Это очень подробная статья (июль 2024) о построении платформы для генеративного AI, которая постепенно описывает архитектуру от простейшей (запрос → модель → ответ) до сложной production-системы. Основные компоненты: __ __1) Context construction (RAG с embedding/term-based поиском, SQL-запросы, веб-поиск, query rewriting), __ __2) Guardrails (входные для защиты от утечек PII и jailbreaking, выходные для проверки качества/токсичности/галлюцинаций), __ __3) Router и Gateway (маршрутизация запросов к разным моделям, унифицированный доступ, fallback, контроль доступа), __ __4) Cache (prompt cache, exact cache, semantic cache для снижения латентности и стоимости), __ __5) Complex logic (циклы, условное ветвление, write-действия), __ __6) Observability (метрики, логи, трейсы) и __ __7) Orchestration (LangChain, LlamaIndex и др., но автор советует начинать без них). __ А какие вы порекомендуете свежие ресурсы? Если хотите добавить ее как ссылку в коммент, можно использовать код: ``` http://ssilka.ru```
Building A Generative AI Platform - Это очень подробная статья (июль 2024) о…
Из этого канала
- #5634Для инвесторов было необходимо посмотреть демографию клиентов в США. Для такой…
Для инвесторов было необходимо посмотреть демографию клиентов в США. Для такой задачи можно использовать открытые источники, например данные US Census Bureau,…
- #5635Очень интересный обзор М5 процессора…
Очень интересный обзор М5 процессора https://youtu.be/Jh9pFp1oM7E?si=gwUcZVsxPhzA4TFk Будет интересно с детьми посмотреть PS согласно автору без использования…
- #5636Apache Spark выпустил релиз 4.1 Если 4.0 было страшно использовать, то 4.1 уже…
Apache Spark выпустил релиз 4.1 Если 4.0 было страшно использовать, то 4.1 уже вполне. Ключевые обновления 1.
- #5632"Несколько статей, которые рассказывают про терминологию GenAI Foundation vs.…
"Несколько статей, которые рассказывают про терминологию GenAI Foundation vs. Instruct vs.
- #5631С Новым Годом!
С Новым Годом!