Auf Apple Silicon ist der Flaschenhals oft nicht das Silizium, sondern das Format und das Framework. Der Standard-Download aus dem Netz (fp8, für NVIDIA gedacht) ist auf dem Mac eine Sackgasse.

Keine Sackgasse, schlicht überhaupt keine Straße.
Wenn man weiß, dass die fp8 eine Implementierung für NVIDIA Hardware ist....was ist das für eine Erwartung?