Помните я писал про бенчмарк «Быки и коровы», где нужно угадывать, какое четырёхзначное число загадал пользователь? (ответы и валидация автоматические) Ну так вот, бенчмарк — В С Ё! Запустил o3-mini на нём, она разгадала ВСЕ 50 ЗАГАДОК (ограничение в 15 попыток, многие модели не укладываются и потому не разгадывают). Кроме того, среднее количество попыток — 6.06, в то время как математически оптимальное ~5.67. То есть модель прям ООООЧЕНЬ продвинулась в рассуждениях, не требующих знаний. Для сравнения лучшая модель до этого o1-mini (полную не тестировал, очень дорого) решала лишь половину задач, и средняя длина цепочки была 8.4 хода (оценка по 500 задачам, достаточно точная). И это был лучший результат — все R1, Gemini, Claude не справлялись и с половиной (все метрики тут). То есть o3-mini очень хорошо помнит контекст, все прошлые шаги игры, делает из них выводы и движется в правильном направлении. Так ещё и в форматировании ответов тоже нуль ошибок (у Reasoning-моделей с этим почему-то плохо, они стабильно забывают, что было в промпте — так глубоко уходят в свои мысли).
Помните я писал про бенчмарк «Быки и коровы», где нужно угадывать, какое…
Из этого канала
- #2287По предварительной информации лимит использования o3-mini для бесплатных юзеров…
По предварительной информации лимит использования o3-mini для бесплатных юзеров составляет 10 сообщений в 4 часа — по крайней мере в чате два человека получили…
- #2289Пред-предпоследний пост перед постом про DeepSeek! В карточке модели o3-mini…
Пред-предпоследний пост перед постом про DeepSeek! В карточке модели o3-mini (вот pdf) OpenAI традиционно проводят множество тестов на безопасность и…
- #2290Предпоследний пост перед постом про DeepSeek! Как я писал, 30-го января Sama и…
Предпоследний пост перед постом про DeepSeek! Как я писал, 30-го января Sama и несколько сотрудников OpenAI были в Белом доме на закрытой встрече с…
- #2285Как бесплатным юзерам пользоваться o3-mini: 1) нужно зайти в аккаунт (это…
Как бесплатным юзерам пользоваться o3-mini: 1) нужно зайти в аккаунт (это бесплатно, но нужен VPN из РФ) на chat.com 2) ввести свой запрос 3) нажать кнопочку…
- #2284Если вы не хотели платить за подписку и редко пользовались ChatGPT (или вообще…
Если вы не хотели платить за подписку и редко пользовались ChatGPT (или вообще не пользовались) — сейчас самое время пойти завести аккаунт.