то нибудь пробовал запускать gpt-oss-120b в speculative decoding (модель eagle3 от nvidia на hf) на DGX SPARK? Поделитесь готовым конфигом (рабочим) пожалуйста. Уже все попробовал ни в какую.
то нибудь пробовал запускать gpt-oss-120b в speculative decoding (модель eagle3…
0 viewsОткрыть в Telegram →
Из этого канала
- #5080https://relieved-cafe-fe1.notion.site/JustRL-Scaling-a-1-5B-LLM-with-a-Simple-RL…
https://relieved-cafe-fe1.notion.site/JustRL-Scaling-a-1-5B-LLM-with-a-Simple-RL-Recipe-24f6198b0b6b80e48e74f519bfdaf0a8
- #5081Вот и обнова по нефтяному симулятору…
Вот и обнова по нефтяному симулятору https://github.com/researchim-ai/oil-simulator-py Там таки реально считается на гпухе кейс на 1 миллион ячеек.
- #5082Недавно вон новость была (вроде везде гремели)…
Недавно вон новость была (вроде везде гремели) https://www.world-nuclear-news.org/articles/chinese-msr-achieves-conversion-of-thorium-uranium-fuel про новые…
- #5078https://blog.alpindale.net/posts/topkcuda/
https://blog.alpindale.net/posts/topkcuda/
- #5076https://kalomaze.bearblog.dev/rl-lora-ddd/
https://kalomaze.bearblog.dev/rl-lora-ddd/