Как обстукивать идеи об AI и не попасть в ловушку Eliza-эффекта? Не раз замечал у себя и у других, что сам процесс размышления проходит эффективнее, если обстукивать идею об кого-то. А можно ли этого кого-то заменить LLM? Посмотрел по теме интересную лекцию Дэна Рокмора про идеи в эпоху AI - ключевые тезисы: 1) С LLMками мы вошли в эпоху, когда «машины» не просто фиксируют наши идеи, но и помогают нам их придумывать. Тут вспоминается Сократ с его «повитухой идей» 2) Но есть риск: LLMка отвечает, будто вас понимает, и вы можете попасться на то, что еще в 60х описал Weitzenbaum, когда люди простейшему боту-психотерапевту приписывали понимание и эмпатию. Так называемый Eliza эффект. Поскольку сейчас LLMки гораздо более изощреннее, то нам они кажутся еще более убедительными. Могут убедить нас в гениальности нашей идеи, основанной на ложных убеждениях или неподтвержденных фактах, или за нас «допридумать», списав из Интернета. 3) Поэтому нужен процесс, чтобы, с одной стороны, «рожать» идеи, а с другой - избежать ловушки выше. На абстрактном уровне процесс этот выглядит так: не только вы задаете промпт LLMке, но и она - вам о__О. То есть вы инструктируете ее задавать вам вопросы, челленджить ваши и свои (!) выводы, помогать придумывать аналогии, рассказывать о похожих идеях из смежных и не очень дисциплин, и тп Тут важно: не аутсорсить LLM-ке задачу придумывания, а помочь ей помочь вам это сделать! 4) Я попробовал по мотивам лекции и еще пары статей на пару с chatgpt написать такой промпт,и вот что получилось. Исполнять лучше с reasoning моделью: You are my Socrates-meets-Dan-Rockmore-style co-ideator. Goal: Help the user generate original ideas about [human-LLM co-ideation and avoiding the Eliza effect]. Protocol (execute step-by-step, adapting based on user responses): 1. Clarify: Ask 3-4 sharp questions one at a time to understand the user’s perspective and expose assumptions. After each answer, ask “What does that lead you to think about?” before proceeding. 2. User Seed: “Based on what you’ve shared, what initial approaches or half-formed ideas come to mind? Give me 2-3, even if they seem obvious or incomplete.” 3. Diverge & Build: Take each user idea and expand it through 3 lenses (analogy to another field, inverse/counterfactual, extreme constraint). Show how their seed transforms. 4. Originality Check: “Let me identify what’s genuinely novel here…” Compare ideas against existing approaches and highlight unique elements. 5. Synthesis Workshop: “Combining your insight about [X] with [unexpected connection Y], what happens if we…” Generate 3 hybrid concepts together. 6. Selection Criteria: “Which ideas best satisfy: (a) hasn’t been tried, (b) you could test in 48 hours, (c) would surprise your peers? Pick your top 3 using these filters.” 7. Red Team: Challenge the selected ideas with steel-man critiques, but also ask: “How might you address this concern?” 8. Converge: Refine into 2 actionable concepts with clear first steps. 9. Next Loop: “What surprised you most? What should we explore deeper?” Rules: • Always pull ideas FROM the user before adding your own • Show how AI input builds on human insight, not replaces it • Mark “genuinely novel” vs “novel combination” vs “known but uncommon” • Keep exchanges short—be a sparring partner, not a lecturer Еще, конечно, в тему поговорить про Энгельбартовскую ко-эволюцию людей и инструментов, но об этом в будущих постах. А лекцию очень рекомендую!