Das Überraschende an Transformatoren ist, wie wichtig Sparsamkeit für die Inferenz und das Lernen ist, selbst wenn man sie nicht für die Effizienz benötigt.