Inc написал недавно о том, что стоимость автоматизации на российских ИИ-стероидах почти в 200 раз дороже, чем на западных. Российские модели чаще всего представляют собой дообученные версии LLaMA, Qwen, Mistral. Чтобы обучить одну LLM, нужно потратить несколько десятков миллионов рублей, из которых пример 30% - это расходы на персонал (инженеры и исследователи) и еще 5% - энергопотребление. Но основная причина высокой стоимости - конечно, инфраструктура, на которую приходится 65% бюджета. Из-за санкций доступ к современным GPU ограничен, оборудование закупается через посредников с большой наценкой. Использование зарубежных облаков ограничено законом о персональных данных, поэтому провайдерам приходится содержать собственные дата-центры. Сервер на 1 тыс. пользователей стоит около 55 млн руб., без учета энергии и обслуживания. Мне кажется, скоро это изменится. Первая ласточка - это разрешение на бизвизовый въезд китайцам в РФ. И хотя их видеокарты на порядок хуже того, что предлагает Nvidia, я вангую, что Китай возьмет количеством и меньше чем через год наводнит отечественный рынок дешевыми GPU. Знаю пару команд, которые уже научились разгонять китайское железо. А еще есть те, кто собирает инфраструктуру для ИИ на основе телефонных ферм, которые переквалифицировались с крипты и тапания хомяка на сдачу в аренду под нейронки. Уверен, что в 2026 стоимость пользования упадет как минимум в 10 раз.
Inc написал недавно о том, что стоимость автоматизации на российских…
Из этого канала
- #604"Как вовремя предотвратить выгорание? Приятель вчера поделился:…
"Как вовремя предотвратить выгорание? Приятель вчера поделился: ""Представляешь, я до прихода на текущую работу знал больше и учился быстрее - сейчас я погряз…
- #605"Чтобы проверять за ИИ, нужны те самые навыки, которые атрофируются от…
"Чтобы проверять за ИИ, нужны те самые навыки, которые атрофируются от использования ИИ.
- #606Anthropic, став первой публичной AI-компанией с прозрачной отчётностью, задаст…
Anthropic, став первой публичной AI-компанией с прозрачной отчётностью, задаст планку для всей индустрии.
- #602" Велико искушение отдать рутину нейронке, поэтому многие уже перешли на Комет…
"```""Не все ИИ-браузеры одинаково полезны"" - было написано на одинокой заброшенной могилке...``` Велико искушение отдать рутину нейронке, поэтому многие уже…
- #601Парадокс Джевонса (Часть 1) В 1865 году британский экономист Джевонс заметил…
Парадокс Джевонса (Часть 1) В 1865 году британский экономист Джевонс заметил странную вещь: более эффективные паровые машины не снижали общий расход угля -…