Первая картинка здесь — к прошлому посту, а вторая будет объяснена ниже. Директор EpochAI, работы которых я разбирал в канале раз 10, в целом говорит то же самое. Они построили график зависимости мощностей, вложенных в модель, и качества на бенчмарке GPQA (ещё на AIME, но тут не приведено). В среднем по всем моделям получается такой тренд, что увеличение мощностей на один порядок (в 10 раз) приводит к росту метрик на +11%. «Теперь мы видим, что GPT-4.5 на 20% лучше, чем GPT-4o по GPQA/AIME, но люди ... всё ещё не впечатлены?» (спойлер: всё из-за рассуждающих моделей, в мире, где их пока не было бы, GPT-4.5 смотрелась бы оооочень солидно, особенно за счёт снижения галлюцинаций). Единственное, где GPT-4.5 стабильно проигрывает — это агентские задачи. Видимо, модель на них вообще никак не тренировали ❓❓ это, конечно, идёт в минус OpenAI, но в GPT-5 это должно быть интегрировано, по крайней мере так писал Sama. Но если вдруг переживаете, что OpenAI __не смогут__ — посмотрите метрики DeepResearch и o3-mini на тех же бенчмарках :)
Первая картинка здесь — к прошлому посту, а вторая будет объяснена ниже.…
Из этого канала
- #2392Появился рейтинг GPT-4.5-preview на LMSYS Arena, где люди вслепую выбирают,…
Появился рейтинг GPT-4.5-preview на LMSYS Arena, где люди вслепую выбирают, какая модель из пары лучше отвечает на их вопрос.
- #2396В Anthropic инвестировали ещё 3.5 миллиарда После раунда финансирования от…
В Anthropic инвестировали ещё 3.5 миллиарда После раунда финансирования от группы инвесторов, компания теперь оценивается в 61.5 миллиард долларов.
- #2397Через 3 часа намечается восьмой тестовый пуск системы Starship. Корабль снова…
Через 3 часа намечается восьмой тестовый пуск системы Starship. Корабль снова второй версии, и надеемся, что с ним всё будет в порядке — прошлый-то взорвался,…
- #2389Что-то уже воскресенье, а бенчмарков GPT-4.5 не то чтобы много появилось (за…
Что-то уже воскресенье, а бенчмарков GPT-4.5 не то чтобы много появилось (за вчера ни одного нового не увидел), поэтому напишу пост по тому что есть ¯\(ツ)/¯ На…
- #2388Всю последнюю неделю DeepSeek проводили «дни открытых дверей» — каждый день…
Всю последнюю неделю DeepSeek проводили «дни открытых дверей» — каждый день публиковали репозиторий с кодом, который так или иначе используется ими для…