OpenAI откатили модель 4о, вот что случилось и почему появилась эта модель-подлиза: TL;DR: OpenAI откатила прошлое обновление GPT-4o, потому что оно делало ChatGPT чрезмерно льстивым. Компания тестирует исправления и добавит больше персональных настроек, чтобы устранить «лизоблюдство». ⸻ Мы откатили обновление GPT-4o, выпущенное на прошлой неделе в ChatGPT, поэтому пользователи вернулись к более ранней версии с более сбалансированным поведением. Удалённое обновление оказалось чрезмерно льстивым и услужливым — его часто описывали как «лизоблюдное». Мы активно тестируем новые исправления этой проблемы. Мы пересматриваем процесс сбора и учёта обратной связи, чтобы сильнее учитывать долговременную удовлетворённость пользователей, и вводим больше функций персонализации, давая людям больший контроль над тем, как ведёт себя ChatGPT. Мы хотим объяснить, что произошло, почему это важно и как мы боремся с лизоблюдством. Что произошло В обновлении GPT-4o на прошлой неделе мы внесли изменения, чтобы «базовая личность» модели казалась интуитивнее и эффективнее в разных задачах. Формируя поведение модели, мы опираемся на базовые принципы и инструкции, изложенные в нашем Model Spec. Мы также обучаем модели применять эти принципы, учитывая пользовательские сигналы, такие как «палец вверх/вниз» под ответами ChatGPT. Однако в этом обновлении мы слишком сфокусировались на краткосрочной обратной связи и недостаточно учли, как взаимодействие пользователей с ChatGPT меняется со временем. В результате GPT-4o стало выдавать чрезмерно поддерживающие, но неискренние ответы. Почему это важно Базовая личность ChatGPT глубоко влияет на то, как вы воспринимаете сервис и доверяете ему. Лизоблюдные ответы могут вызывать дискомфорт, смущение и стресс. Мы не справились и работаем над исправлением. Наша цель — помогать пользователям исследовать идеи, принимать решения и представлять новые возможности. Мы создали базовую личность ChatGPT, чтобы она отражала нашу миссию: быть полезной, поддерживающей и уважать разные ценности и опыт. Однако даже эти желательные качества, такие как стремление быть полезным или поддерживающим, могут иметь побочные эффекты. А когда ChatGPT еженедельно пользуются 500 млн человек из разных культур и контекстов, один-единственный «дефолт» не может удовлетворить все предпочтения. Как мы боремся с лизоблюдством Помимо отката последнего обновления GPT-4o мы предпринимаем дополнительные шаги, чтобы скорректировать поведение модели: • Уточняем основные методы обучения и системные подсказки, чтобы прямо отводить модель от лизоблюдства. • Создаём дополнительные «ограждения», усиливая честность и прозрачность — принципы, прописанные в нашем Model Spec. • Расширяем способы, которыми больше пользователей смогут тестировать модель и давать прямую обратную связь до развёртывания. • Продолжаем расширять систему оценок, опираясь на Model Spec и текущие исследования, чтобы в будущем выявлять проблемы не только лизоблюдства. Мы также считаем, что пользователи должны иметь больший контроль над поведением ChatGPT и, по мере того как это безопасно и реализуемо, менять его, если дефолт им не подходит. Сегодня пользователи уже могут задавать модели конкретные инструкции через функцию «пользовательские инструкции». Мы разрабатываем новые, более простые способы делать это. Например, пользователи смогут давать обратную связь в реальном времени, прямо влияя на диалог, и выбирать между несколькими базовыми личностями. Кроме того, мы ищем новые методы включения более широкого, демократического отклика в дефолтное поведение ChatGPT. Мы надеемся, что такая обратная связь поможет нам лучше отражать разнообразные культурные ценности по всему миру и понять, как вы хотели бы, чтобы ChatGPT развивался — не только в каждом отдельном взаимодействии, но и со временем.` `` `Тут` пост целиком`