🤖Проблема выравнивания (alignment)
Как обеспечить, чтобы ИИ действовал в интересах людей? Инструментальная конвергенция — ИИ будет стремиться к самосохранению. Orthogonality thesis — любой интеллект может иметь любую цель. Угрозы: paperclip maximizer. Исследования: OpenAI, Anthropic.
📖6 мин чтения📊Уровень 7📅19 февраля 2026 г.
🗺️ Mind Map
Загрузка карты...
❓Часто задаваемые вопросы
Проблема выравнивания (alignment) — это тема о правилах, механизмах и практиках в своей области. Она помогает понять, как принимаются решения и к каким последствиям они приводят.