Технологическая сингулярность

Гипотетическая точка экспоненциального роста технологий когда искусственный интеллект превзойдёт человеческий и начнёт рекурсивно улучшать себя: концепция — John von Neumann 1950-е (accelerating progress), Vernor Vinge эссе 1993 ("Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended"), Ray Kurzweil "The Singularity Is Near" 2005 (прогноз 2045). Механизм: AGI artificial general intelligence (человекоподобный AI) → самоулучшение (AI разрабатывает более умный AI за часы/дни) → intelligence explosion (экспоненциальный рост за недели от human-level до god-like) → непредсказуемые последствия (технологии за пределами понимания). Сценарии: позитивные (решение всех проблем: болезни, старение, нищета, космическая экспансия), негативные (AI alignment problem не контролируемый superintelligence уничтожает человечество pursuing instrumental goals, paperclip maximizer thought experiment Nick Bostrom). Критика: нет доказательств что intelligence unbounded (мозг имеет физические ограничения), AGI может быть невозможен (Chinese Room argument Searle, consciousness/understanding vs computation), timing неопределён (может быть 2040 или никогда). Текущий AI (2024): narrow AI (GPT-4, AlphaGo узкоспециализированные), далеко от AGI (нет common sense, transfer learning limited)