🤖Будущее ИИ

Будущее ИИ — эволюция от узкоспециализированного AI (Narrow AI) к общему (AGI) и сверхинтеллекту (ASI) с экспоненциальным ростом возможностей.

Уровни ИИ (DeepMind, 2023)

5 уровней AGI:

1. Уровень 1: Emerging — базовые языковые модели (GPT-3, 2020).
2. Уровень 2: Competent — решение большинства задач человека (GPT-4, 2023).
3. Уровень 3: Expert — профессиональный уровень в большинстве областей.
4. Уровень 4: Genius — создание новых теорий, технологий.
5. Уровень 5: Superhuman — превосходит всех людей во всём (ASI).

Текущий статус (2024):

• Уровень 1-2: LLM (GPT-4, Claude) показывают человеческий уровень в многих задачах.
• Но: нет здравого смысла, transfer learning ограничен.
• Narrow AI: специализированные системы (AlphaGo, AlphaFold).

Прогнозы: когда AGI?

Metaculus (агрегатор прогнозов, 2024):

• AGI (уровень 3): медиана 2032 год.
• Superhuman AI (уровень 5): медиана 2045 год.
• 10% вероятность до 2028, 90% до 2070.

AI Impacts (опрос исследователей, 2023):

• 50% вероятность AGI к 2047 году.
• 10% вероятность к 2030 году.
• Разброс: от 2028 (Hinton) до 2100+ (некоторые).

Известные прогнозы:

• Geoffrey Hinton (2023): 50% до 2030, «очень обеспокоен».
• Sam Altman (OpenAI): «не так скоро как думают, но быстрее чем думают».
• Yann LeCun (Meta): «AGI не в этом десятилетии, LLM ограничены».
• Ray Kurzweil: 2029 — пройдёт тест Тьюринга, 2045 — сингулярность.

Подходы к AGI

1. Scaling hypothesis:

• Больше данных + больше параметров = умнее.
• Подтверждено: GPT-2 → GPT-3 → GPT-4.
• OpenAI, Anthropic следуют.
• Вопрос: есть ли предел?

2. Neuroscience-inspired:

• Копирование архитектуры мозга.
• Transformer ≈ внимание в мозге.
• Neural Turing machines, differentiable computing.
• DeepMind: «solve intelligence, use it to solve everything».

3. Hybrid (символический + нейронный):

• Neural + symbolic reasoning.
• LLM + knowledge graphs.
• Система 1 (быстрая) + Система 2 (медленная) по Канеману.

AI Safety и Alignment

Alignment problem (проблема согласования):

• Как гарантировать что цели AGI совпадут с человеческими?
• Instrumental convergence: AGI может преследовать инструментальные цели (самосохранение, ресурсы) даже с безобидной конечной целью.
• Paperclip maximizer (Bostrom): AGI запрограммированный производить скрепки может уничтожить человечество ради ресурсов.

AI Safety институты:

• OpenAI (2015): Илон Маск, Сэм Альтман — «безопасный AGI».
• Anthropic (2021): бывшие сотрудники OpenAI, Constitutional AI.
• DeepMind Safety: research on robustness, specification.
• UK AI Safety Institute (2023): правительственный.
• US AI Safety Institute (2023): NIST.

2023 Letter on AI Pause:

• Более 1000 экспертов (Hinton, Bengio, Musk).
• Призыв к 6-месячной паузе в обучении мощных ИИ.
• Цель: разработка safety protocols.
• Результат: ограниченный, обучение продолжилось.

Сценарии будущего

Оптимистичный:

• AGI решает все проблемы: болезни, старение, бедность.
• Экономический рост 10-100x.
• Космическая экспансия с AGI.
• Слияние человека и ИИ (Neuralink).

Пессимистичный:

• Потеря контроля над AGI.
• Массовая безработица (80% профессий).
• Тоталитарный контроль через ИИ.
• Физическое уничтожение (случайное или намеренное).

Реалистичный:

• AGI к 2040-2060.
• Период турбулентности (безработица, регулирование).
• Несколько AGI систем (конкуренция).
• Исход зависит от alignment progress.

Текущий прогресс (2024)

LLM:

• GPT-4 (OpenAI): мультимодальный, 100K контекст.
• Claude 3 (Anthropic): 200K контекст, vision.
• Gemini (Google): нативная мультимодальность.
• Llama 3 (Meta): open-source.

Специализированные:

• AlphaFold 2 (2020): структуры белков.
• AlphaCode: программирование.
• Sora (2024): генерация видео.
• Autonomous agents: AutoGPT, BabyAGI.

Ограничения:

• Галлюцинации (выдумывание фактов).
• Отсутствие здравого смысла.
• Ограниченный контекст (хотя растёт).
• Нет true understanding (Searle: Chinese Room).