История про 1.3 EUR за анализ legacy кода и пользу от отсутствия векторов На прошлой неделе мне нужно было выступить с докладом у IBM. И пока я сидел на конференции, в чате одного проекта всплыл вопрос от CTO компании: а как вообще устроены права и разрешения в этом дремучем монолите, который мы собираемся переписывать? Какие есть роли и как они привязаны к экранам с доступами? Что там с отделами? Времени читать и копаться в коде, естественно, не было (в проекте 2843 файлов). Поэтому я просто подрядил OpenAI Codex, скопировав ему во вход вопрос CTO. Плюс дописал “помести ответ в report.md, размером менее 3000 символов”, чтобы не верифицировать кучу текста. Спустя пять минут появился детальный ответ, который я переслал обратно в чат со словами “перепроверьте вот эти факты в этих файлах” и благополучно забыл. __Кстати, __з__дорово, что костыль в виде векторных RAG-и используют все меньше не только в бизнесе, но и в современных AI+Coding агентах. Представьте, сколько времени бы ушло на разбивание на чанки такого проекта, подсчет embeddings, а потом и векторный поиск с соответствующими галлюцинациями на выходе. __ __Вместо этого агенты используют инструменты и разбираются в коде по ходу. Поэтому можно просто открыть проект любого размера и быстро получить результат. Ну а если в проекте есть __AGENTS MD и прочая документация для агентов __c __форматом для памяти, __то им совсем хорошо____ __ Вчера ко мне прибежали директора этой компании со словами “Ринат, как ты во время конференции за 5 минут дал такой ответ? Нам нужны скриншоты и видео процесса, мы это прямо в презентацию на тендер вставим” Я сделал заново при помощи OpenAI Codex CLI. Заодно замерил стоимость запуска анализа на этом проекте с 2843 файлами - получилось 1.3 EUR. Мелкая вещь, но у человека такой первичный анализ занял бы пару часов, как минимум. Да и то я проклял бы все (в этом языке есть даже макросы). Получается ускорение 120min:5min, что довольно неплохо и очень выгодно. А то, что из такого примера сделали хайлайт для крупного тендера (ибо конкуренты компании пока такого почему-то не умеют), это уже бонус. Ваш, @llm_under_hood 🤗
История про 1.3 EUR за анализ legacy кода и пользу от отсутствия векторов На…
Из этого канала
- #600Ручка и блокнот - превосходно работают для управления агентами Процесс выглядит…
Ручка и блокнот - превосходно работают для управления агентами Процесс выглядит так: - берем чашечку кофе - пишем идеи в блокнотике в приятном месте - парсим…
- #601Кейс про reasoning, в котором автор признается в использовании векторов и в…
Кейс про reasoning, в котором автор признается в использовании векторов и в архитектурной ошибке Задача кейса - ускорить работу c документами compliance…
- #603Интерфейсы у Claude Opus получаются утилитарные, но всяко лучше того, что я бы…
Интерфейсы у Claude Opus получаются утилитарные, но всяко лучше того, что я бы сделал сам.
- #598Почему в последнее время в канале больше постов про AI+Coding, чем про продукты…
Почему в последнее время в канале больше постов про AI+Coding, чем про продукты с LLM под капотом? Потому, что актуальных проблем с AI+Coding сейчас больше,…
- #597Листы ожидания на мои новые курсы на английском Причем сразу два. (1) Building…
Листы ожидания на мои новые курсы на английском Причем сразу два. (1) Building AI Assistants: Patterns and Practices.