Интересная статья - LLMs: The Illusion of Thinking, в которой рассказываю про LLM и насколько это далеко от реального искусственного интеллекта. Некоммерческие лидеры мнений тоже про это говорили. __LLMs: The Illusion of Thinking — краткое резюме __1 __LLM создают иллюзию мышления, но не обладают пониманием, сознанием или намерением. __2 __Они предсказывают слова по статистике, а не рассуждают логически. __3 __Галлюцинации и уверенная ложь — системная проблема всех моделей. __4 __На сложных задачах (пример: Tower of Hanoi) модели полностью ломаются, даже если знают алгоритм. __5 __Chain-of-Thought не является реальным мышлением — часто рассуждения неверные, но ответ случайно правильный. __6 __LLM путают факты и смешивают источники (пример: объединение двух разных авторов). __7 __В программировании LLM часто создают “циклы безумия”, когда исправления снова вводят ошибки. __8 __Бенчмарки, которыми хвастаются создатели моделей, сильно завышены и некорректны. __9 __В образовании растёт проблема массового списывания, ценность дипломов падает. __10 __LLM — полезны как ассистенты, но должны применяться только с внимательным контролем человека и не являются AGI.__ Возможно и правда GenAI в текущей реализации нас не заменит, но очень помогает делать свою работу лучше. А как вам кажется?