Beitrag

Seit Apple den „riesigen Unified Memory“ in die Welt der lokalen KI gebracht hat, lassen sich Macs endlich sinnvoll mit Consumer-Grafikkarten in einer gemeinsamen Rangliste vergleichen. Diese Rangliste vergleicht nicht nur Benchmarkwerte, sondern beantwortet eine viel praktischere Frage: Sollte ein normaler Nutzer für lokale KI einen Mac oder eine Grafikkarte von NVIDIA, AMD oder Intel kaufen? Zuerst Apple: • Mac mini M4 Pro: bis zu 64 GB Unified Memory, leise und stromsparend – ein guter Einstieg für lokale große Sprachmodelle • Mac Studio M5 Max: bis zu 128 GB, geeignet für Kreativarbeit und größere Modelle • Mac Studio M5 Ultra: bis zu 512 GB und 1,2 TB/s Speicherbandbreite; der entscheidende Vorteil ist, dass „extrem große Modelle hineinpassen“ Nun zu den Grafikkarten: • NVIDIA: Vorteile bei Token-Geschwindigkeit, Stable Diffusion, Videogenerierung sowie Training und Fine-Tuning; dazu kommt das ausgereifteste CUDA-Ökosystem • RTX 5060 Ti 16GB: der Einstieg bei neuen Karten für normale Nutzer • RTX 5070 Ti 16GB: die gängige Leistungsklasse • RTX 5090 32GB: das Geschwindigkeits-Flaggschiff im Consumer-Bereich • Gebrauchte RTX 3090 24GB: viel VRAM zum kleinen Preis • AMD / Intel: budgetfreundlich, aber die Softwarekompatibilität muss vorher geprüft werden Bei der eigentlichen Entscheidung geht es nicht darum, „wer den höchsten Benchmarkwert erzielt“, sondern darum, ob das Modell in den Speicher passt, um Token/s, das Ökosystem, den Stromverbrauch, die Lautstärke und den Gesamtpreis des Systems. AI TOPS verschiedener Plattformen lassen sich nicht direkt miteinander vergleichen. Auch Token/s ändern sich je nach Modell, Quantisierung, Kontext und Softwareversion. Künftig können bei jeder neuen Apple-Chipgeneration die offiziellen Daten in diese Rangliste aufgenommen werden: zuerst Unified Memory und Bandbreite, danach die reale Modellgeschwindigkeit. Noch nicht veröffentlichte Produkte von Apple und NVIDIA gehören ausschließlich in den Beobachtungsbereich und werden nicht als getestet dargestellt. Datengrundlage: offizielle Seiten von Apple und NVIDIA, Stand 2026-09-03. #Apfel #Apple Silicon #Mac Studio #Mac mini #本地AI #GPU #NVIDIA #Große Sprachmodelle