В последней статье от Pragmatic Engineer - AI Engineering in the real world автор на пример нескольких стартапов собрал примеры использования AI для продукта/сервиса и их технологический стек. 1. Incident.io — это стартап, который создает инструменты для эффективного управления инцидентами и их расследования. Продукты компании помогают компаниям быстро реагировать на технические сбои, обеспечивая эффективную коммуникацию и анализ ситуации. Продукт: - AI Note Taker — инструмент для записи заметок и реального времени, который автоматически генерирует резюме инцидентов, а также выделяет ключевые решения и действия для участников. - Incident Investigator — ИИ-агент, который анализирует коды, логи и старые инциденты для нахождения коренной причины текущих проблем. Технологии: - PostgreSQL и pgvector — для хранения и поиска векторных представлений данных. - ChatGPT 4o и Sonnet 3.7 (модели от Anthropic) — для обработки запросов и анализа инцидентов. - GCP Kubernetes — для оркестрации вычислительных ресурсов. - Go (на бэкенде) и React + Typescript (на фронтенде). 2. Sentry — это популярная платформа для мониторинга приложений, которая помогает разработчикам отслеживать ошибки в коде и устранять их. Компания предоставляет мощные инструменты для автоматического обнаружения и исправления ошибок. Продукт: - Autofix — позволяет быстро перейти от ошибки в коде к её исправлению, интегрируя данные Sentry с GitHub для автоматического создания запросов на исправления. - Issue Grouping — инструмент, который снижает количество уведомлений об ошибках и устраняет «шум» с помощью усовершенствованного поиска ближайших соседей. Технологии: - PostgreSQL и pgvector — для хранения и поиска векторных данных. - Clickhouse — для обработки аналитики в реальном времени. - Kubernetes — для оркестрации вычислительных мощностей. - Python и PyTorch — для инференса моделей машинного обучения. 3. Wordsmith (Legal AI) разрабатывает инструменты с использованием ИИ, специально ориентированные на юридические команды. Продукты компании помогают автоматизировать рутинные задачи, такие как анализ документов и контрактов. Продукт: - AI Contract Review — инструмент для автоматического анализа контрактов, выявления проблемных мест и создания аннотированных документов. - Documents Workspace — платформа для анализа и создания документов, включая автоматическое составление отчетов и рекомендаций. Технологии: - Pinecone — для хранения векторных представлений данных. - LangChain и LangSmith — для интеграции LLM в рабочие процессы. - LlamaIndex — для оркестрации данных с LLM. - Многооблачные провайдеры: AWS, Azure и GCP. 4. Augment Code создает инструменты для разработчиков с целью улучшения их работы с большими кодовыми базами с использованием ИИ. Компания предлагает AI-ассистента для программирования, который помогает ускорить процесс разработки. Продукт: - AI Coding Assistant — расширение для IDE (VS Code, JetBrains, Vim) и Slack, которое помогает разработчикам ускорить процесс написания кода. - Fine-tuning Models — сервис для настройки ИИ-моделей для специфических задач в программировании. Технологии: - Google Cloud — для хостинга инфраструктуры. - A3 Mega 600GPU/75 node cluster — для тренировки и инференса моделей. - NVIDIA GPU и CUDA — для обработки данных на графических процессорах. - Python и PyTorch — для создания библиотек тренировки и инференса. 5. Elsevier (RAG platform) — один из крупнейших мировых издателей научных и медицинских материалов. Компания создает платформы, которые помогают медицинским специалистам и исследователям эффективно находить и использовать научные данные. Продукт: - RAG Platform — централизованная платформа для обработки научных данных и создания приложений для медицинских профессионалов. Включает в себя решения для создания интеллектуальных систем обучения и поддержки клинических решений.