Alana özel modeller: genelci mi, uzman mı

Sorunun cevabı bir tercih değil, ölçülebilir bir eşik. Ve eşiği belirleyen şey alanların birbirine ne kadar benzediği.

Kaynaklar

• Gururangan, S. ve ark. 2020 · Don't Stop Pretraining: Adapt Language Models to Domains and Tasks · ACL 2020
• Lee, J. ve ark. 2020 · BioBERT: a pre-trained biomedical language representation model · Bioinformatics 36(4)
• Bommasani, R. ve ark. 2021 · On the Opportunities and Risks of Foundation Models · arXiv:2108.07258
• Rosenstein, M. T. ve ark. 2005 · To Transfer or Not To Transfer · NeurIPS 2005 Workshop on Transfer Learning