Ходят слухи (очень непроверенные), что сегодня вечером выйдую первые LLAMA-4, с очень длинным контекстом (10M токенов), и что якобы они уже лежат на HuggingFace. 1. 17B active, 109B total, 16 experts, 10M context length. 2. 17B active, 400B total, 128 experts, 1M context length. Пока слухам не верим, но от непроверенного источника до проверенного — один слив 🥺 источник