Çıktıyı kalıba sıkıştırmak: gramer ve şema
Modeli geçerli JSON üretmeye zorlamak kolay. Zorlamanın modelin dağılımını da değiştirdiğini fark etmek zor.
4 adım
225 XP
Ücretsiz hesap gerekiyor
Derse başla →
Kaynaklar
- Willard, B. T. & Louf, R. 2023 · Efficient Guided Generation for Large Language Models · arXiv:2307.09702
- Geng, S. ve ark. 2023 · Grammar-Constrained Decoding for Structured NLP Tasks without Finetuning · EMNLP 2023
- Park, K. ve ark. 2024 · Grammar-Aligned Decoding · NeurIPS 2024
- Tam, Z. R. ve ark. 2024 · Let Me Speak Freely? A Study on the Impact of Format Restrictions on Performance of Large Language Models · EMNLP 2024 Industry
ML Academy · tarayıcıda çalışan interaktif makine öğrenmesi kursu ·
Bütün dersler