Бывший сотрудник OpenAI представил новое поколение ИИ: его модель Jev в некоторых задачах работает в 200 раз быстрее обычных LLM. Что сделал стартап TypeSafe AI Диогу Алмейды, коротко: - Jev не генерирует ответ последовательно, а выдает структурированный результат с вероятностями; - Это означает, что модель не может галлюцинировать. Из готовых ответов она выбирает тот, что вызывает больше доверия. Правда, Jev все еще может выбрать не тот вариант; - По этой же причине модель очень быстрая. Ее заставили играть в DOOM: модель получала данные о происходящем и принимала ~10 решений в секунду; - А еще она на порядок дешевле. Миллион входных токенов стоит всего $0,042, а выходные токены вообще бесплатные. На тест с игрой Jev тратила всего $7 в час. Модель уже открыта в раннем доступе, вейтлист по ссылке. tg / max