Cognitive Debt Вот только этого нам не хватало :) У нас и так уже есть технический долг, архитектурный… а жизнь такая - «не расслабляться» и докинула когнитивный: https://arxiv.org/pdf/2506.08872 Очень подробная и интересная работа. Авторам спасибо еще и за то, что написали разделы «Discussion» и «Conclusion» на человеческом языке, всмысле – на понятном простому смертному. Суть в том, что испытуемые писали эссе: 1-я группа с ChatGPT 2-я группа с поисковиками 3-я группа brain-only Выводы такие, если кратко: • Группа ChatGPT продемонстрировала самую слабую нейронную связность (ЭЭГ) • Группа brain-only показала самую сильную и распределенную нейронную сеть, отражающую глубокую внутреннюю обработку информации • Группа поисковых систем посерединке Это все ожидаемо и не это интересно, а интересно следующее: • Более 80% группы ChatGPT не смогли процитировать ничего из того, что только что написали, тогда как brain-only справились значительно лучше (что в целом предсказуемо, но 80%….). Вот эту штуку и назвали когнитивным долгом - «поверхностное кодирование информации без глубокой интернализации» • Оценка эссе экспертами тоже выявила, что работы, созданные с помощью ChatGPT были бездушные, пустые, лишенные индивидуальности, стандартные и типичные; NLP-анализ подтвердил однородность и конвергенцию к статистически усредненному стилю (это самая первая табличка в статье по ссылке) А теперь самое интересное. В конце группы поменялись условиями. Участники, переключившиеся с ChatGPT на самостоятельную работу, сохранили низкую нейронную связность и так и не достигли уровня группы brain-only. А кто в начале был в brain-only показали с ChatGPT лучший результат, авторы делают вывод: «стратегическое введение инструментов ИИ после первоначальной самостоятельной работы может повысить вовлеченность и способствовать нейронной интеграции», или иначе – сначала разберись и подумай сам, а потом иди в ИИ :) Вообще, забавно. Получается, что если сразу в ИИ, то мозгам хуже, если сначала подумать и разобраться, а потом в ИИ, то мозгам как минимум не хуже, а может быть и лучше. У Айзека Азимова на схожую тему есть замечательная повесть, называется - «Профессия»
Cognitive Debt Вот только этого нам не хватало :) У нас и так уже есть…
Из этого канала
- #670Журнал «Информационные процессы» Сегодня узнал о таком электронном научном…
Журнал «Информационные процессы» Сегодня узнал о таком электронном научном журнале: http://www.jip.ru/ Кому-то точно будет интересно ✍️
- #671Пример RLHF :) (если поощрать за любые ответы, то - что? правильно! ответ будет…
Пример RLHF :) (если поощрать за любые ответы, то - что? правильно! ответ будет всегда, даже если не корректный или не в тему) Студент сдает зоологию.
- #672Простые лайфхаки для локализации инвариантов Продолжение поста «Про…
Простые лайфхаки для локализации инвариантов Продолжение поста «Про модульность и контекстные окна LLM» Как можно хоть немного себя обезопасить и при этом…
- #666Про модульность и контекстные окна LLM Я хочу показать, что вопрос «Как…
Про модульность и контекстные окна LLM Я хочу показать, что вопрос «Как увеличить контекстное окно, чтобы засунуть туда весь размазанный код?» некорректен сам…
- #665«Галлюцинации LLM — это не баг»: профессор математики объясняет, почему ИИ не…
«Галлюцинации LLM — это не баг»: профессор математики объясняет, почему ИИ не перестанет врать 2/2 Владимир Крылов, профессор математики, научный консультант…