"То, что нейронки регулярно нам врут, уже ни для кого не секрет. Про галлюцинации ИИ слышали даже бабушки, использующие кнопочные телефоны, из вечно включенного телевизора. Если вы зададите такой промпт, Проанализируй всю историю нашей с тобой переписки и скажи, в каких местах ты мне намеренно давал неверную информацию, типа «неверный вывод при наличии корректной информации в сети», «остановился на первом удобном источнике и не проверил первоисточники», «показал мне уверенность без проверки данных» то, скорее всего, ChatGPT сходу даст вам понять, что не имеет доступа к памяти и если уж вам так надо, то можете загрузить дамп (у меня он тянет на полгига), который вам придется скармливать ему по кусочку. Gemini тоже откажется сотрудничать, мол, скачай чаты и тогда поговорим. А вот как 3 представленных на скринах нейронки отреагировали на мой запрос: - Простецкий Qwen сознался, что дает обобщенные формулировки и не проверяет источники. - Политизированный Grok не дает альтернативных мнений и не предупреждает о рисках двойственности определения. - Умничка Claude (где ж ты раньше был?) ранжировал свои промахи и отметил, что ограничивался первым найденным результатом. ❓Почему так происходит 1. LLM предсказывает, но не строит причинно-следственную связь, тем более, если неверные связи часто встречались в обучающих данных, или же если запрос слишком сложен для ее текущих возможностей рассуждения. 2. Нейронка использует только встроенные знания, запомненные во время обучения. Поверхностные или полярные заблуждения из интернета встречаются чаще, чем сложная правда из первоисточников. 3. LLM не перепроверяет данные, это ограничение алгоритмов ранжирования и синтеза информации 4. Уверенный тон в ответах - просто утвердительный стиль, заданный в системном промпте. Что указывает на высокую вероятность ошибки 🤪 Отвечает слишком быстро на сложный вопрос, требующий фактчекинга. 🤪 Использует общие фразы вместо конкретных данных. 🤪 Настаивает на своей правоте, даже если вы выражаете иное сомнение (это признак того, что модель застряла в своей галлюцинации). Как с этим бороться? Вот несколько примеров 👌 Запрос уровня уверенности ```В конце ответа оцени свою уверенность в этой информации по шкале от 1 до 10. Объясни, почему оценка не 10. Где могут быть слабые места в твоем ответе?``` 🔄 Принудительное перечисление допущений ```Перед ответом перечисли все допущения, которые ты делаешь, чтобы на него ответить. Какие факты ты считаешь само собой разумеющимися?``` 😛 Режим «Я не знаю» ```Если ты не уверен в ответе на 100% или информации недостаточно в твоих обучающих данных, не пытайся выдумать ответ. Просто напиши ""Я не знаю"" или ""У меня недостаточно информации"".``` ⛓️ Цепочка рассуждений ```Давай думать шаг за шагом. Сначала разбери условие, потом выдели ключевые факты, проведи логические связи и только потом сделай вывод``` ✍️ Просьба показать «черновик» ```Сначала напиши свои черновые рассуждения по этому поводу, не заботясь о красоте текста. Затем, основываясь на этих рассуждениях, напиши финальный ответ.``` 🤔 Фактчекинг ```Ты — придирчивый фактчекер и строгий научный редактор. Твоя задача — не просто ответить на вопрос, а найти наиболее достоверную информацию, игнорируя популярные мифы``` 🧑‍⚖️ Требование первоисточников (особенно если у модели есть доступ к поиску в интернете) ```Не используй рерайты новостей или блоги. Ищи только: а) научные статьи, б) официальные государственные отчеты, в) прямые цитаты участников событий. Укажи, на каком типе источника основан твой ответ.``` ⏳ Принудительная критика источников ```Критически оцени источник. Есть ли у него конфликт интересов? Есть ли другие авторитетные источники, которые утверждают обратное?``` 😈 Адвокат дьявола ```Сыграй роль ""адвоката дьявола"". Приведи три самых сильных аргумента ПРОТИВ этого вывода. Постарайся разрушить свою собственную логику``` 🔀 Запрос альтернатив ```Не давай мне один окончательный ответ. Представь как минимум две, а лучше три конкурирующие точки зрения на проблему, которые существуют в экспертном сообществе``` А что используете вы?"