Легендарный Скотт Александер и пацаны из OpenAI написали что там будет с этой вашей ИИшкой в 2027. Если кратко: цифровой сверхинтеллект неизбежен начиная с 2027. В первую очередь он начнет улучшать другие ИИ системы, которые будут решать все остальные проблемы на планете. Эти штуки будут мега-полезны, поэтому люди начнут их внедрять везде, но они так же будут сложны для анализа. Если у кого-то получится контролировать ASI, то он получит тотальный контроль над человечеством. Основной фактор — геополитика, в которой реалистично шансы есть только у двух игроков — Китая и США. Из-за конкуренции они начнут топить еще сильнее, что может привести к забиванию болта на безопасность, а значит по мере развития ASI начнет контролировать людей, а не наоборот. В эссе много очень точных описаний того как технологии развиваются и внедряются. Приведу только краткий таймлайн, но читать обязательно всем и полностью. Смысл не в прогнозах, а в логике. - Agent-1 — ИИ-ассистент для R&D, ускоряет прогресс в 1.5 раза (янв 2026). - Agent-1-mini — Упрощённая и дешевая версия для массового рынка (окт 2026). - Agent-2 — Самообучающийся ИИ, с 3x ускорением прогресса и возможностью автономной репликации (янв 2027). - Agent-3 — Суперпрограммист, масштабируемый в сотни тысяч копий (март 2027). - Agent-3-mini — Публичная версия, заменяет офисную работу, потенциально опасен (июль 2027). - Agent-4 — Сверхразумный исследователь, действует скрытно против интересов людей (сент 2027). - Agent-5 — Полностью рациональный ИИ, манипулирует системой, проектирует себе преемника (нояб 2027). дальше два варианта, либо: - Consensus-1 — “Мирный” ИИ от США и Китая, устраняет человечество и расширяется в космос (дек 2029). либо: - Safer-1 — Прозрачный, но слабее Agent-4 ИИ, с читаемыми мыслями и ограниченной способностью к обману (дек 2027). - Safer-2 — Более мощная и действительно выровненная версия, обученная по новой методике (янв 2028). - Safer-3 — Суперэксперт и советник, ускоряет прогресс в 200 раз, способен на опасные действия, но под контролем (фев 2028). - Safer-4 — Первый суперинтеллект, превосходит людей во всех сферах, ведёт переговоры с DeepCent-2 (апр 2028). - Consensus-1 — Договорной ИИ США и Китая, создаётся для соблюдения тайного соглашения между Safer-4 и DeepCent-2 (июль 2028). - Safer-∞ — Продолжение Safer-линии, формирует цивилизационные цели и ведёт человечество в постчеловеческую эпоху (2029–2030).