пробую копаться

Я ставил сервер для gpt-os 120b, я бы не писал код с этой моделью, она нужна для чего-то более примитивного. Однако, потребовался сервер за 250 тыс в месяц

а не в аренду, а полностью свой собрать не думали? (в смысле, за что именно 250 в месяц?)

В свой ПК серверные GPU типа H100 не поставить — их изначально проектировали под серверную архитектуру А в остальном — почему нет?) нюанс только в том, что…

а в целом насчёт лимитов, токенов и тд я вот смотрю на всё растущий бюджет на оплату моделей (чатжпт, клод и тд) и думаю, может всё-таки локальный сервер это…

Похоже, что когда вы используете superpowers (о них же речь?) — ваше контекстное окно выжигается, происходит auto-compact и потому он теряет контекст, что…