AI uygulama yığını: kim neyi inşa eder

Bir AI ürününde katmanların hepsi eşit değil. Hangisine yatırım yapacağını duyguyla değil aritmetikle seçebilirsin.

Kaynaklar

• Amdahl, G. M. 1967 · Validity of the Single Processor Approach to Achieving Large Scale Computing Capabilities · AFIPS 1967
• Dean, J. & Barroso, L. A. 2013 · The Tail at Scale · CACM 56(2)
• Kwon, W. ve ark. 2023 · Efficient Memory Management for Large Language Model Serving with PagedAttention (vLLM) · SOSP 2023
• Sculley, D. ve ark. 2015 · Hidden Technical Debt in Machine Learning Systems · NeurIPS 2015