На волне хайпа анлока видеокарт раздуплил один из своих старых серваков с CMP90HX (была куплена за 7к). По итогам, анлокнув через этот репо, побенчил на gemma-4-E4B q2. Максимальный прирост префилла составил х6(!) а декода х2.5. Как будто учитывая отчет deepseek`а о профитности инференса имеет смысл собирать из майнинговых карт распаянных до 20гб фермы (имея источник чуть ниже текущего прайса на авито офк)
На волне хайпа анлока видеокарт раздуплил один из своих старых серваков с…
Из этого канала
- #1400кстати нвидия выложили 472гб 3д асетов для ваших симуляторов…
кстати нвидия выложили 472гб 3д асетов для ваших симуляторов https://huggingface.co/datasets/nvidia/simready-assets
- #1401https://www.cartesia.ai/blog/from-tokens-to-bytes-part-1 там челы сделали…
https://www.cartesia.ai/blog/from-tokens-to-bytes-part-1 там челы сделали нейронку, которой не нужен токенизатор типа BPE который в ллмках применяется.
- #1403Возможно квен 4 на некст недельке ☺️…
Возможно квен 4 на некст недельке ☺️ https://www.reddit.com/r/LocalLLaMA/s/p0ucHX54YH
- #1398ля ну это просто прикольно) именно для этого всегда и нужен был ии…
ля ну это просто прикольно) именно для этого всегда и нужен был ии https://www.reddit.com/r/reinforcementlearning/comments/1xdfl7d/gettingoveritusingdrl…
- #1397у биологических праздник https://huggingface.co/HuggingFaceBio/Carbon-X…
у биологических праздник https://huggingface.co/HuggingFaceBio/Carbon-X https://huggingface.co/spaces/HuggingFaceBio/Carbon-X-Release Carbon-X —…