Тонер продолжала работать в CSET параллельно с OpenAI.то есть спустя всего 6 лет после переезда в Штаты на магистратуру её назначили в борд OpenAI (а ты считай дальше, что у гуманитариев карьерой так себе). на китайском направлении CSET занимается в основном тем, что собирает, структурирует и объясняет Вашингтону разрозненные OSINT-данные: закупки PLA, китайские государственные документы, цепочки поставок полупроводников, программы привлечения талантов, патенты, научные публикации. они довольно много публикуют в открытом доступе, но думаю все мясо уходит в Вашингтон. Хелен регулярно зовут выступать на разных заседаниях Конгресса по AI и регулированию. при этом позиция самой Тонер сложнее примитивно-ястребиной, в духе «они сейчас взорвут наши дата-центры». она поддерживает контроль оборудования для производства полупроводников, потому что видит там реальные узкие места. к ограничениям на сами чипы относится осторожнее: контроль и лицензирование сложнее, ограничения могут усилить Huawei и SMIC, ударить по американским компаниям и ускорить технологическую самостоятельность Китая. вообще считает метафору «AI-гонки» вводящей в заблуждение: технология не создала американо-китайское соперничество, а просто стала одним из его выражений. отсюда же её скепсис по поводу красивого соглашения США и Китая по безопасности AI. прежде чем заключать большую сделку, сторонам неплохо бы хотя бы договориться, какую именно проблему они пытаются решить. у Тонер вообще довольно приятный публичный стиль. в длинных интервью она не выглядит человеком, который на каждый вопрос задвигает про экзистенциальный риск. признаёт минусы собственного лагеря, шутит и спокойно говорит, где данных недостаточно. поэтому её Substack полезно и интересно читать (как минимум мне) хотя бы для того, чтобы учиться формулировать мысли; из интересных тейков - она предлагает всерьёз относиться к jaggedness, то есть неровности возможностей AI. сегодняшние модели могут делать что-то на уровне сильного специалиста и тут же проваливаться на задаче, которую человек считает элементарной. большинство дискуссий предполагает, что это временная стадия: либо AI скоро упрётся в потолок, либо станет универсально сверхчеловеческим. Тонер предлагает третий вариант: прогресс продолжится быстро, но останется структурно неровным. тогда сложные профессии не исчезнут одним куском. вместо этого возникнут комбинации человека и AI, где машина делает мощные, но ограниченные фрагменты работы, а человек держит контекст, ответственность и переходы между задачами. для государства это важно потому, что такой неровный прогресс оставляет время на адаптацию. если AI не превращается мгновенно в универсального автономного исследователя, у государства остаётся время экспериментировать, исправлять правила и строить институты. некоторые топят, что именно Хэлен стала инциатором свержения. сложно в это поверить, но говорят, что эрозия отношений Тонер с Сэмом началась как раз с публикации исследования CSET по безопасности. в нём Anthropic оценивался выше OpenAI по подходу к безопасности и это взбесило Альтмана. в общем друзья, вывод такой - мальчики создают стартапы; мужчины делают think tank для гос аппарата.
Тонер продолжала работать в CSET параллельно с OpenAI.то есть спустя всего 6…
Из этого канала
- #1419это уже как-то забылось, но почти 3 года назад, 17 ноября 2023-го, на корабле…
это уже как-то забылось, но почти 3 года назад, 17 ноября 2023-го, на корабле OpenAI произошёл великий бунт.
- #1418новая рубрика на канале мой хороший приятель Руслан очень сильный продуктовый…
новая рубрика на канале мой хороший приятель Руслан очень сильный продуктовый оператор, особенно в построении и масштабировании команд.
- #1417еще из новостей: пробили верх в независимом бенчмарке провайдеров и…
еще из новостей: пробили верх в независимом бенчмарке провайдеров и GTM-агентов. правда, пока только на lookalikes.