"Выделил эту статью из дайджеста, уж большо хороший пример рассматривается в ее тексте и довольно важный вопрос поднимается автором статьи - мы вообще отдаем себе отчет в том, что работая с LLM вообще нет гарантии получить гарантированно верный ответ? Как я писал ранее, LLM делает не ""логический вывод"" из знаний и понимания предметной области, а ""статистический вывод"" просто генерируя наиболее вероятностную последовательность слов которую мы уже воспринимаем как связанный диалог. И автор статьи тут это очень наглядно и понятно продемонстрировал, задав изначально некорректный вопрос и получив в ответ прекрасную галлюционацию ""как заказывали"". Ведь сейчас мы все больше осваиваем LLM и все чаще используем ее в работе и жизни, доверяя не только написание выжимок из статей, но и получая от нее медицинские советы и трактовку анализов. Граждане, будьте бдительны! https://habr.com/ru/articles/953478/"