"Начнём с конца. Компании могут упоминать очень разные цифры в контексте ДЦ; есть большая разница между ""сколько мы забираем с электростанции"" и ""сколько идёт на GPU"" — ведь есть потери передачи, траты на охлаждение (очень существенные), и CPU + память тоже сколько-то едят. По грубой прикидке разница в этой воронке может быть 30-40% и даже чуть больше. 100 МегаВатт с подстанции могут превратиться в 75 МегаВатт непосредственно на GPU. 2 и 3 достаточно просты и при этом очень вероятны. Про 3, например, Microsoft говорили в прошлом году, что запускали огромный ДЦ в Малайзии, но деталей чего и сколько — нет, при этом сам ДЦ в анализе Ed никак не появляется (хотя некоторые другие иностранные, в основном, европейские есть). SemiAnalysis тоже много раз писали про этот ДЦ и про большие планы Microsoft. Так что я готов поверить, что пара сотен МегаВатт по всему миру может набраться. У Microsoft по последним данным более 400 ДЦ в 34 странах, а количество регионов в Azure за год выросло с 70 до 80. В целом относительно легко поверить, что в, скажем, 40 из них (всего лишь 10%) заехали новые стойки с GPU на 5 МегаВатт (то есть очень мало) для поддержки AI-фичей Copilot в каждом регионе. Вот вам ещё 200 МегаВатт в квартал. Самая большая проблема с этим пунктом — не место (стойки очень прожорливые, и потому занимают меньше места, чем традиционные), а энергия (и ещё охлаждение, но забудем про него). Не во всех регионах можно по щелчку получить +5 МегаВатт от станции. И быстрый гуглинг не помог найти никаких новостей о подаче заявок на доп. энергию для маленьких ДЦ хотя бы в каких-то частях мира. Но должно ли такое гуглиться? Мне кажется логичным, что вне Европы хрен кто найдет информацию о том, на что идёт энергия со станции и кто там что кому разрешал или не разрешал. В целом запланировать обновление 40 датацентров кажется огого задачей, но когда у тебя в управлении 400, то в целом уже не так нереалистично. Такое можно запланировать заранее, согласовать, получить энергию, купить чипы, и так далее. Поэтому итог такой. В целом приходится немного крутиться, чтобы найти этот ГигаВатт, но это не звучит совсем нереалистично. Только это ГигаВатт с электростанции, так что на чипы идёт условно 700 МегаВатт (=чипов меньше, чем можно подумать), и из них лишь, скажем, 550 это ДЦ Microsoft (150 в аренду взяли), и из них лишь 200 в крупных ДЦ в США/Европе, которые легко найти, а остальные 350 размазаны по земному шару в 30-50-100 мелких датацентрах. Плюс как пишет сам Ed — ДЦ запускают кусками, сначала одно здание, потом второе, и вполне возможно, что существенная часть GPU легла в уже запущенные, но продолжающие строиться маленькие ДЦ. Поэтому новостей о появлении новых и нет. В идеале конечно бы почитать более чёткий анализ от SemiAnalysis или хотя бы Epoch.AI. У первых есть отдельная модель, отслеживающая более 5000 датацентров, и думаю по ней было бы очень легко проверить слова Satya Nadella, кто где чего сколько. Правда доступ к данным стоит не меньше $10k, поэтому сори, аналитика пока только на коленке 😏"
"Начнём с конца. Компании могут упоминать очень разные цифры в контексте ДЦ;…
Из этого канала
- #3634Произошла ситуация: в комментариях меня упрекнули, что ключевой разработчик Bun…
Произошла ситуация: в комментариях меня упрекнули, что ключевой разработчик Bun написал 5-го мая, что это всего лишь эксперимент, а Bun не планирует переезжать…
- #3636🤡 в сообществе уже появились персонажи, у которых переписывание популярного…
🤡 в сообществе уже появились персонажи, у которых переписывание популярного фреймворка на 1 миллион строк — это простые, не очень впечатляющие задачи, в…
- #3638"Sama wins Суд присяжных постановил, что Маск подал иск слишком поздно, чтобы…
"Sama wins Суд присяжных постановил, что Маск подал иск слишком поздно, чтобы признать Альтмана, Брокмана или OpenAI ответственными за какие-либо претензии,…
- #3632"Есть такой журналист и критик AI Ed Zitron (блог). Обычно он пишет полный…
"Есть такой журналист и критик AI Ed Zitron (блог). Обычно он пишет полный бред, и его основная проблема в том, что он даже не рассматривает возможность своей…
- #3631Параллельно наблюдаем за одной из задач, аналогичной ProgramBench и MirrorCode,…
Параллельно наблюдаем за одной из задач, аналогичной ProgramBench и MirrorCode, в прямом эфире.