Пример RLHF :) __(если поощрать за любые ответы, то - что? правильно! ответ будет всегда, даже если не корректный или не в тему)__ Студент сдает зоологию. Знает только про блох. На экзамене достается вопрос про собак. Судент начинает: - Собаки это млекопитающие, покрыты шерстью. В шерсти водятся блохи... дальше все про блох.... Препод: - Ладно молодой человек, расскажите про кошек Студент: - Кошки это млекопитающие, покрыты шерстью. В шерсти водятся блохи... дальше все про блох.... Препод: - Давайте-ка про рыб Студент: - Рыбы это не млекопитающие. Шерстью не покрыты. Покрыты чешуей, но если бы они были покрыты шерстью, то в ней бы водились блохи....
Пример RLHF :) (если поощрать за любые ответы, то - что? правильно! ответ будет…
Из этого канала
- #672Простые лайфхаки для локализации инвариантов Продолжение поста «Про…
Простые лайфхаки для локализации инвариантов Продолжение поста «Про модульность и контекстные окна LLM» Как можно хоть немного себя обезопасить и при этом…
- #673Значимость этой схемы сравнима с числом 42 (по универсальности) =) К слову,…
Значимость этой схемы сравнима с числом 42 (по универсальности) =) К слову, Парнас еще в 1971 описал подход к модульности через сокрытие информации как более…
- #674Резюме в разных контекстах Не совсем мой профиль, но имею что сказать :) На…
Резюме в разных контекстах Не совсем мой профиль, но имею что сказать :) На изображении хорошая рекомендация при широкой входящей воронке кандидатов.
- #670Журнал «Информационные процессы» Сегодня узнал о таком электронном научном…
Журнал «Информационные процессы» Сегодня узнал о таком электронном научном журнале: http://www.jip.ru/ Кому-то точно будет интересно ✍️
- #669Cognitive Debt Вот только этого нам не хватало :) У нас и так уже есть…
Cognitive Debt Вот только этого нам не хватало :) У нас и так уже есть технический долг, архитектурный… а жизнь такая - «не расслабляться» и докинула…