Проблема выравнивания (alignment)
🤖Alignment Problem
How to ensure AI acts in the interests of humans? Instrumental convergence — AI will strive for self-preservation. Orthogonality thesis — any intelligence can have any goal. Threats: paperclip maximizer. Research: OpenAI, Anthropic.
Article body and graph labels may still appear in Russian where English translations have not been added yet.
Loading map...
❓Часто задаваемые вопросы
Проблема выравнивания (alignment) — это тема о правилах, механизмах и практиках в своей области. Она помогает понять, как принимаются решения и к каким последствиям они приводят.