Так как компании активно бросились на внедрение AI, то ушлые менеджеры решили, что надо отслеживать KPI - потребление токенов. Есть такое явление - «Эффект Кобры» (Cobra Effect) или Закон Гудхарта: «Когда метрика становится целью, она перестаёт быть хорошей метрикой». Есть даже яркие примеры из истории (спасибо ИИ): __Кобры в Индии (Британская колония) Правительство предложило вознаграждение за каждую убитую кобру. Местные жители начали разводить кобр ради денег. Когда программу отменили — бreeders выпустили всех змей на волю. Популяция кобр выросла. Советская плановая экономика Классический масштабный пример. Заводам давали план в тоннах — делали максимально тяжёлые изделия. Давали план в штуках — делали максимально маленькие и лёгкие. Менеджеры занижали реальные мощности, чтобы получить выполнимый план, и скрывали запасы. Экономист Янош Корнаи в книге Economics of Shortage (1980) детально описал, как вся система планирования систематически порождала поведение, которое выполняло метрику, но разрушало реальную цель. Колл-центры Классика корпоративного мира: KPI на количество обработанных звонков в час → сотрудники начинают сбрасывать сложные звонки, чтобы брать больше простых. Или звонок «принимается» мгновенно (метрика выполнена), но клиент 10 минут слушает музыку в ожидании. Wells Fargo (2002–2016) Сотрудникам банка ставили KPI на количество открытых счетов на одного клиента (cross-sell ratio). Под угрозой увольнения они открыли ~3.5 миллиона фиктивных счетов без ведома клиентов. Метрика показывала рост — реальные отношения с клиентами разрушались. Банк выплатил штрафов на $3 млрд, CEO ушёл в отставку.__ Таких примеров много в корпоративном мире. Руководство любит придумать новые метрики эффективности, и сотрудники быстро адаптируются и фокусируются на этих метриках. Очевидно, они никак не влияют на качество и на конечный результат. Вот сейчас мы активно переживаем фазу внедрения ИИ эффективности. История с месенджарами точно такая же, как и история про альтернативные методы подключения к интернету🏴☠️. Возвращаемся к ИИ. Термин называется tokenmaxxing - это практика, при которой разработчики искусственно раздувают потребление токенов (единиц обработки данных в AI-моделях) ради карьерных выгод: попадания в рейтинги, признания или защиты своей должности. Хотя большинство все равно еще не используют ИИ🛌
Так как компании активно бросились на внедрение AI, то ушлые менеджеры решили,…
Из этого канала
- #5877Последние несколько недель я познакомил пару человек с Claude Code. До этого…
Последние несколько недель я познакомил пару человек с Claude Code. До этого они использовали AI на уровне “спросить ChatGPT”.
- #5878На рынке BI инструментов появился новый игрок про который я слышу все чаще…
На рынке BI инструментов появился новый игрок про который я слышу все чаще Omni. У них как раз уже был раунд.
- #5880Изучаем машинное обучение всё лето: Яндекс приглашает в Летний кампус…
Изучаем машинное обучение всё лето: Яндекс приглашает в Летний кампус ML-Академии Познакомьтесь с трендами ML‑индустрии и получите прикладной опыт в московском…
- #5875Еще одно преимущество использования git и строить аналитические решения как…
Еще одно преимущество использования git и строить аналитические решения как код. То есть сохранять в репо все изменения.
- #5874Иногда обучение — это первый шаг к уровню, где тебя зовут в топовые компании…
Иногда обучение — это первый шаг к уровню, где тебя зовут в топовые компании Школа анализа данных от Яндекса — двухлетняя бесплатная программа по ML, Data…