Ölçek yasaları: büyütmenin getirisi ve bedeli
Perplexity dersindeki kaynağın gerçek entropisini biliyoruz. Bu sayede uydurduğumuz ölçek yasasının vardığı tabanı doğrulukla karşılaştırabiliyoruz.
4 adım
175 XP
Ücretsiz hesap gerekiyor
Derse başla →
Kaynaklar
- Kaplan, J. ve ark. 2020 · Scaling Laws for Neural Language Models · arXiv:2001.08361
- Hoffmann, J. ve ark. 2022 · Training Compute-Optimal Large Language Models · NeurIPS 2022
- Hestness, J. ve ark. 2017 · Deep Learning Scaling is Predictable, Empirically · arXiv:1712.00409
ML Academy · tarayıcıda çalışan interaktif makine öğrenmesi kursu ·
Bütün dersler