Новые библиотеки от MS для работы с AI/LLM в .NET В .NET потихоньку завозят новые библиотеки для работы с AI/LLM: Microsoft.Extensions.AI и Microsoft.Extensions.VectorData. Для чего? Для унификации. Ранее какую-то унификацию пытались добавить в SemanticKernel, но кажется, что процесс добавления поддержки новых LLM-провайдеров неприлично долгий (пример Anthropic), да и сложно, видимо, качественно поддерживать разных провайдеров своими силами в рамках этой библиотеки. Теперь же разработчикам LLM-провайдеров (API клиентов) будет достаточно просто реализовать соответствующие интерфейсы из Microsoft.Extensions.AI.Abstractions и это позволит другим .NET разработчикам (зависимым от Microsoft.Extensions.AI.Abstractions) бесшовно заменять у себя одного LLM провайдера на другого — мне этого прям не хватало. У меня есть весьма неплохая библиотека для работы с API OpenAI/OpenRouter/Azure OpenAI из .NET и, возможно, пришло время вдохнуть в нее новую жизнь реализацией соответствующих интерфейсов из Microsoft.Extensions.AI.Abstractions + добавить поддержку генерации эмбеддингов из разных сервисов, а то с SemanticKernel я уже успел намучаться (недавно они просто сломали совместимость с моделями из OpenRouter). И вообще, для .NET очень не хватает аналога питоновской LiteLLM. Кстати, если кто-то ищет себе актуальный опенсорсный проект, то вот вам хорошая возможность (условный `LiteLlm.NET`). NB: Новость увидел у denisio в канале Записки программера (он периодически постит годный контент про .NET). — Пробелов.NET
Новые библиотеки от MS для работы с AI/LLM в .NET В .NET потихоньку завозят…
Источник
https://t.me/ai_driven/42Канал AI-Driven Development. Родион Мостовой · опубликовано 18 нояб. 2024 г.
Из этого канала
- #43"Reasoning models: o1, o1-pro, Gemini Flash Thinking, QwQ 32b, o3-mini Ну что,…
"Reasoning models: o1, o1-pro, Gemini Flash Thinking, QwQ 32b, o3-mini Ну что, всех с наступившим! Если меня спросят какой тренд в AI мире наблюдается в 2025…
- #47"o1-pro: Реализуем Parallel.ForEachAsync с регулируемым ""на лету""…
"o1-pro: Реализуем Parallel.ForEachAsync с регулируемым ""на лету"" параллелизмом Не все знают, но в .NET начиная с 6-й версии есть прекрасный метод…
- #48"Продолжение: o1-pro: Реализуем Parallel.ForEachAsync с регулируемым ""на…
"Продолжение: o1-pro: Реализуем Parallel.ForEachAsync с регулируемым ""на лету"" параллелизмом Часть 1 тут.
- #40Поиск по коду на естественном языке + вакансии в CodeAlive Известное дело, что…
Поиск по коду на естественном языке + вакансии в CodeAlive Известное дело, что современные LLM открывают большие просторы для продуктов с AI под капотом.
- #38"SearchGPT для задач программирования Новая функция поиска в ChatGPT — вещь…
"SearchGPT для задач программирования Новая функция поиска в ChatGPT — вещь потрясающая и для задач на программирование тоже.