Авторы получают вот такие картинки, здесь замеряется 4 метрики, про которые рассказывать не буду. По оси OX вы видите суммарное количество итераций в генерации (NFE, number of function evaluations). Например, 8 раза сгенерировать по 50 шагов — это 400 шагов. А можно 2 раза по 200, количество вычислений то же, а качество может быть хуже или лучше. Серые линии — это масштабирование инференса за счёт увеличения количества итераций в диффузии. Как я писал выше, после какого-то значения количества шагов качество не растёт (на последней метрике даже падать начинает). Добавление поиска одним из методов выше очень существенно растит все метрики при неизменной модели.
Авторы получают вот такие картинки, здесь замеряется 4 метрики, про которые…
Из этого канала
- #2222Картинки! (лучше открыть статью и листать там в конце) Как читать каждую…
Картинки! (лучше открыть статью и листать там в конце) Как читать каждую строчку: — первые 3 изображения: это генерации без поиска (брали первый попавшийся…
- #2226Позавчера Sama вышел ~~в народ~~ в твиттер поотвечать на вопросы про будущие…
Позавчера Sama вышел ~~в народ~~ в твиттер поотвечать на вопросы про будущие модели.
- #2227Отдельно напишу по-моему очевидную, но для многих нет, мысль: GPT-5 НЕ будет…
Отдельно напишу по-моему очевидную, но для многих нет, мысль: GPT-5 НЕ будет лучше o3 (может даже o1) в математике и алгоритмах.
- #2220Так, получается саммари первого подхода: 1) сгенерировали N случайных и…
Так, получается саммари первого подхода: 1) сгенерировали N случайных и независимимых шумов 2) сгенерировали N картинок 3) каждую оценили верификатором 4)…
- #2219Inference-Time Scaling for Diffusion Models beyond Scaling Denoising Steps…
Inference-Time Scaling for Diffusion Models beyond Scaling Denoising Steps (сайт проекта) Последнее время активно исследуется тема масштабирования вычислений…