Внедряя AI на бэкенд, или в бизнес/разработческие процессы довольно часто хочется использовать любимые и знакомые инструменты, и при этом... тоже часно - сэкономить немного на токенах :) Поэтому я набросал небольшой прокси на расте для инструментов используюих API Антропик, который позволяет утилизировать OpenAI-like API – OpenRouter, или SelfHosted модели, или почти что угодно еще ¯\_(ツ)_/¯ https://github.com/m0n0x41d/anthropic-proxy-rs В уже не только экспериментальных штуках __некоторые__ открытые модели показывают себя вполне хорошо. Настройка и запуск этого прокси простая какая пять копеек (.env файл в удобном для вас месте) и врубается простым демоном: `anthropic-proxy --daemon` а с Claude Code дружить еще проще чем с Z.AI – всего одна переменная (модели и апстрим в конфигах прокси, очевидно): `ANTHROPIC_BASE_URL=http://0.0.0.0:3000 claude` Соберу нормальные бинари в релизы если хоть кому-то пригодится. @m0n0x41d
Внедряя AI на бэкенд, или в бизнес/разработческие процессы довольно часто…
Из этого канала
- #431"Ваша новая AI-система на моднейшем no-code конструкторе (который вы выбрали…
"Ваша новая AI-система на моднейшем no-code конструкторе (который вы выбрали калассического внедрения на бэкенд) обходится в несколько штук баксов, но не может…
- #432#aionbackend Хочется Schema Guided Reasoning но на компилируемом языке c…
#aionbackend Хочется Schema Guided Reasoning но на компилируемом языке c сильными гарантиями системы типов? Cкомпилироваться – я дам сильные типы я не дам 😏…
- #433"#aionbackend pgvector в туториалах (и часто в моих постах тоже) выглядит…
"#aionbackend pgvector в туториалах (и часто в моих постах тоже) выглядит идеально: добавил расширение, создал индекс, поиск работает – считай вот и внедрили…
- #429"#aionbackend Проблема: векторные базы ищут по косинусной близости или гибридно…
"#aionbackend Проблема: векторные базы ищут по косинусной близости или гибридно – и то и другое связей между данными не понимает.
- #427"Чат-бот аптеки упорно палил бюджет Коллега из е-комм аутсорса делал…
"`Чат-бот аптеки упорно палил бюджет` Коллега из е-комм аутсорса делал AI-поисковик для португальской аптеки: - ""Какое лекарство от мигрени?"" - ""Чем лечить…