Проблема выравнивания (Alignment)
🎯Alignment Problem
How to ensure AI does what we want? Outer alignment: model goal = our intentions. Inner alignment: learned policy = trained objective. Mesa-optimization: model may develop its subgoals. Research: MIRI, Anthropic (Constitutional AI), DeepMind. Stuart Russell: 'human-compatible AI'
Article body and graph labels may still appear in Russian where English translations have not been added yet.
Loading map...
❓Часто задаваемые вопросы
Проблема выравнивания (Alignment) — это тема о правилах, механизмах и практиках в своей области. Она помогает понять, как принимаются решения и к каким последствиям они приводят.