Экономика reasoning моделей Когда OpenAI анонсировали o1 модель, то стало понятно, что механизм ее работы заметно меняет экономику LLM провайдеров: если ранее они много тратили на претрейнинг модели, а потом использовали эту модель миллиарды раз, то по классике наслаждались эффектом масштаба (постоянные издержки, размазанные на кучу запросов). С o1 же все не совсем так: ведь при подготовке ответа модель генерирует много вариантов ответов, «усредняет» их каким-то правилом —> каждый запрос генерирует кучу переменных издержек. Но я рискну предположить, что это временная ситуация: нагенерив миллиарды «chain of thought” размышлений, они заново запустят пре-трейнинг и опять переведут это в постоянные издержки. А вы как считаете?
Экономика reasoning моделей Когда OpenAI анонсировали o1 модель, то стало…
Из этого канала
- #1100Печально видеть столько ошибок и отсутствие банального фактчекинга и такой…
Печально видеть столько ошибок и отсутствие банального фактчекинга и такой нарратив, но это уже на совести журналистов.
- #1101Ортогональный взгляд на эффект AI на рынок труда: ВЭФ считает, что в итоге…
Ортогональный взгляд на эффект AI на рынок труда: ВЭФ считает, что в итоге текущие тренды, в том числе AI, создадут больше новых рабочих мест, чем уберут…
- #1102“B2B Craiglist” Многие из вас наверняка видели фото в аттаче. Я вот подумал, а…
“B2B Craiglist” Многие из вас наверняка видели фото в аттаче. Я вот подумал, а есть ли какой-то аналогичный сервис или продукт, из которого вырастают b2b…
- #1098Внезапно напомнили про мой старый материал: перечитал, понравилось, ушел думать…
Внезапно напомнили про мой старый материал: перечитал, понравилось, ушел думать :) https://gopractice.ru/skills/productmanagerskillsforeveryone/
- #1097Отец как-то рассказывал: С появлением персонального компьютера я понял, что…
Отец как-то рассказывал: С появлением персонального компьютера я понял, что теперь могу домой забирать «станок», на котором работаю.