Тратите много денег на API LLM? Это поправимо Если вы делаете продукт с ИИ или гоняете агентов через API, то наверняка уже считали, сколько денег уходит на запросы. На этапе прототипа токены улетают вполне по-взрослому, хотя сам продукт ещё ничего не зарабатывает. Ко мне пришли ребята из CheapGPT. У них единый API к GPT, Claude и Gemini, а цены до 3 раз ниже, чем напрямую у провайдеров. Таких сервисов сейчас немало, и к любому из них у меня возникают вопросы: 🔒 Что происходит с моими логами? Содержимое промптов и ответов CheapGPT не хранит. Если этого мало, есть защищённый режим: запросы шифруются, и сервис технически не может прочитать, что вы туда отправляете. ✅ Кто их на самом деле обрабатывает? Многие дешёвые API работают через цепочку перекупщиков, часто китайских. Где в этой цепочке оседают ваши промпты и кому их потом продают, не знает никто. У CheapGPT запросы уходят только напрямую на сервера OpenAI, Anthropic и Google с подписочных аккаунтов. Без посредников между ними и вами. Проверить это можно благодаря открытому коду и dstack 📊 Не подсовывают ли мне модель попроще? У CheapGPT бенчмарки открытые, и их можно прогнать самому и сравнить качество ответов. Я бы заодно замерил задержки на своих задачах, особенно если от скорости ответа зависит работа продукта. 🚀 Выдерживает ли высокую нагрузку? Если у вас постоянная большая нагрузка, то по запросу CheapGPT выделит 1000+ RPM. 💸 А что по деньгам? Экономия зависит от модели. Например, сейчас GPT-6.1 Sol у OpenAI стоит $2 за вход и $10 за выход. У CheapGPT тот же миллион стоит $0,667 на входе и $3,333 на выходе. Получается примерно в 3 раза дешевле. Claude же дешевле на 40 процентов. Откуда такая разница? Ребята закупают подписки и превращают их в API, а закупку аккаунтов, ротацию, баны и всю сопутствующую возню берут на себя. API совместим с OpenAI и Anthropic, работают их SDK. Достаточно получить ключ, заменить адрес API и выбрать модель Оплата в рублях, без зарубежных карт. С юрлицами работают по договору и дают закрывающие документы. Если уже используете эти модели по API, посмотрите цены и попробуйте CheapGPT на своих сценариях. А если сейчас подключать нечего, за развитием проекта можно следить https://t.me/AIproductiv Реклама: ИП Зайделов Анатолий Георгиевич. ИНН 781129420099. #реклама
Тратите много денег на API LLM? Это поправимо Если вы делаете продукт с ИИ или…
Из этого канала
- #1403⚪️ Релиз MiniMax M3.1 Flash Space Bunny оказался новым флешем от минимаксов! И…
⚪️ Релиз MiniMax M3.1 Flash Space Bunny оказался новым флешем от минимаксов! И вот нынче - релиз 🔗 Анонс: https://x.com/MiniMaxAI/status/2112150867868541221…
- #1404"⚪️ Ship-темберь, день 15/28 Нет, не ресет (( Новый формат презентации на этом…
"⚪️ Ship-темберь, день 15/28 Нет, не ресет (( Новый формат презентации на этом шипмасе - нас ждало ""кулинароное шоу"" про рамен.
- #1405⚪️ Clairic от Cloudflare Новый релиз модели от CF (помните их решатель Clef?)…
⚪️ Clairic от Cloudflare Новый релиз модели от CF (помните их решатель Clef?) - и они пытаютя открыть новый тип моделей в дополнение к решателям: extract…
- #1400⚪️ Ship-темберь, день 14/28 Тибо пишет про небольшую доработку: позволили в…
⚪️ Ship-темберь, день 14/28 Тибо пишет про небольшую доработку: позволили в десктоп апп редактировать предыдущие сообщения 🔗 Пост :…
- #1399"⚪️ OpenCode - ""distillation attack"" Проиозошла атака на openCode, затронуто…
"⚪️ OpenCode - ""distillation attack"" Проиозошла атака на openCode, затронуто 1.4% пользователей, всем ""затронутым"" прислали письма счастья.