Slop este practic conținut care maximizează raportul recompensă/perplexitate. Din punct de vedere mecanic, acesta este hacking de recompensă prin colapsarea distribuției de ieșire într-un bazin cu câteva modele Pareto-optime, construind practic o gramatică degenerată specifică acestei configurații de antrenament.
Andrej Karpathy
Andrej Karpathy22 nov. 2025
Has anyone encountered a good definition of “slop”. In a quantitative, measurable sense. My brain has an intuitive “slop index” I can ~reliably estimate, but I’m not sure how to define it. I have some bad ideas that involve the use of LLM miniseries and thinking token budgets.
Acest lucru explică și similaritatea izbitoare dintre engleza indiană de calitate scăzută și rezultatele LLM, apropo
53