Архитектура Transformer
💻Архитектура Transformer
Механизм внимания (attention) вместо рекуррентности (2017, "Attention Is All You Need"). Параллелизуется. Основа GPT, BERT, T5. Революция в NLP, теперь и в vision.
Загрузка карты...
❓Часто задаваемые вопросы
Архитектура Transformer — это тема о правилах, механизмах и практиках в своей области. Она помогает понять, как принимаются решения и к каким последствиям они приводят.