а не в аренду, а полностью свой собрать не думали? (в смысле, за что именно 250…

В свой ПК серверные GPU типа H100 не поставить — их изначально проектировали под серверную архитектуру А в остальном — почему нет?) нюанс только в том, что…

В соседнем чатике про ит не раз тему поднимали. Дорого своё, уж очень много мощностей железа надо для вменяемого результата

Я ради интереса на старом маке разворачивал Виспер, декодирование аудио в текст 4 минуты реального времени на минуту записи😂

Я ставил сервер для gpt-os 120b, я бы не писал код с этой моделью, она нужна для чего-то более примитивного. Однако, потребовался сервер за 250 тыс в месяц

пробую копаться