Kodlayıcı mı çözücü mü: anlamak mı, üretmek mi
Aynı mimari, tek fark dikkat maskesi. Çift yönlü bağlam anlamayı ölçülebilir şekilde iyileştiriyor; nedensel maske ise üretimin ön koşulu.
4 adım
175 XP
Ücretsiz hesap gerekiyor
Derse başla →
Kaynaklar
- Vaswani, A. ve ark. 2017 · Attention Is All You Need · NeurIPS 2017
- Devlin, J. ve ark. 2019 · BERT: Pre-training of Deep Bidirectional Transformers · NAACL 2019
- Raffel, C. ve ark. 2020 · Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer · JMLR 21(140)
ML Academy · tarayıcıda çalışan interaktif makine öğrenmesi kursu ·
Bütün dersler