30 суток на v100 под VLA , это ожидаемый bottleneck: карта уже старая под современные vision-энкодеры и attention, throughput сильно ниже чем на a100/h100, плюс cost-per-epoch убивает мотивацию. имеет смысл либо ужимать через LoRA/distillation в сверхлёгкую модель, либо сразу брать более свежий GPU. на regcloud cloud GPU с почасовкой , норм вариант: взял инстанс под ран, прогнал, отдал, без переплаты за idle, для длинных стабильных ранов там же bare metal GPU ближе по цене к выделенному железу
30 суток на v100 под VLA , это ожидаемый bottleneck: карта уже старая под…
0 viewsОткрыть в Telegram →
Из этого канала
- #7068Привет! А можно здесь дать на пробу свою либу? У Apple есть статья, как…
Привет! А можно здесь дать на пробу свою либу? У Apple есть статья, как параллелить обучение RNN.
- #7069привет, талант!)
привет, талант!)
- #7071Везде свои люди)
Везде свои люди)
- #7063Был поверхностный интерес одной компании, они зарядными станциями для…
Был поверхностный интерес одной компании, они зарядными станциями для электромобилей занимаются. Хотели какую-то самоходную заряжалку.
- #7061У меня тоже не быстро, работа тормозит процесс. Двухколесная не очень…
У меня тоже не быстро, работа тормозит процесс. Двухколесная не очень перспективна на мой взгляд. Сложность/спрос несопоставимы.