Hva er det grunnleggende kostnad-ytelse-kompromisset ved LLM-er i anbefalingssystemer?
Klikk for å snu kortet
LLM-er gir bedre semantisk forståelse, forklaring og konversasjon, men er størrelsesordener dyrere og tregere enn tradisjonelle modeller. Løsningen er å bruke LLM-er selektivt: kun i re-rangering og forklaring, ikke i kandidatgenerering.
Space / Enter for å snu