{"id":29363,"date":"2026-10-23T22:24:41","date_gmt":"2026-10-23T22:24:41","guid":{"rendered":"https:\/\/www.websiteradar.net\/?p=29363"},"modified":"2026-10-24T21:28:01","modified_gmt":"2026-10-24T21:28:01","slug":"lokale-ki-hardware","status":"publish","type":"post","link":"https:\/\/www.websiteradar.net\/de\/lokale-ki-hardware\/","title":{"rendered":"Lokale KI-Hardware 2026: So finden Sie den richtigen Rechner f\u00fcr LLMs zu Hause"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Sie m\u00f6chten Sprachmodelle auf dem eigenen Rechner betreiben \u2013 ohne Abo, ohne dass Daten Ihren Schreibtisch verlassen, und ohne Internetverbindung? Dann z\u00e4hlen der Prozessor und der \u201eTOPS\u201c-Aufkleber auf der Verpackung weit weniger als zwei andere Dinge: <strong>wie viel Speicher das Modell nutzen kann<\/strong> und <strong>wie schnell der Rechner diesen Speicher lesen kann<\/strong>. Dieser Ratgeber erkl\u00e4rt, wie lokale KI auf einem Computer tats\u00e4chlich l\u00e4uft, wie viel Speicher popul\u00e4re Modelle brauchen und was aktuelle Hardware in der Praxis leistet \u2013 von der Grafikkarte, die Sie in Ihren vorhandenen PC stecken, bis zur Workstation f\u00fcr ein ganzes Team. Zu jedem Ger\u00e4t gibt es gepr\u00fcfte Zahlen, Quellen und ein klares Urteil, f\u00fcr wen es sich eignet; einige Abschnitte enthalten zus\u00e4tzlich ein kurzes Video.<\/p>\n\n\n\n<div class=\"wp-block-group dw-summary has-base-2-background-color has-background\" style=\"border-radius:16px;padding-top:24px;padding-right:28px;padding-bottom:24px;padding-left:28px\"><div class=\"wp-block-group__inner-container is-layout-constrained wp-container-core-group-is-layout-bba1aa89 wp-block-group-is-layout-constrained\">\n\n<h3 class=\"wp-block-heading\">Das Wichtigste in 30 Sekunden<\/h3>\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Der Speicher entscheidet alles.<\/strong> Das gesamte Modell muss in schnellen Speicher passen, auf den die GPU zugreifen kann. Bei 4 Bit rechnen Sie mit etwa <strong>0,6&nbsp;GB pro Milliarde Parameter<\/strong>.<\/li>\n\n\n<li><strong>Die Speicherbandbreite bestimmt, wie schnell das Modell schreibt<\/strong>, die Rechenleistung, wie schnell es einen langen Prompt liest. Deshalb schreibt ein Mac schneller als ein DGX Spark, w\u00e4hrend der Spark lange Dokumente schneller liest.<\/li>\n\n\n<li><strong>Derzeit das beste Preis-Leistungs-Verh\u00e4ltnis:<\/strong> Mac Studio M5 Max mit 128&nbsp;GB (schnelle Ausgabe), Ryzen AI Max+ 395 mit 128&nbsp;GB (g\u00fcnstigster gro\u00dfer Speicher), RTX 5060 Ti 16&nbsp;GB (g\u00fcnstigster sinnvoller Einstieg).<\/li>\n\n\n<li><strong>Ein \u201eKI-PC\u201c mit NPU ist kein Rechner f\u00fcr lokale KI.<\/strong> Weder Ollama noch LM Studio nutzen die NPU.<\/li>\n\n<\/ul>\n\n<\/div><\/div>\n\n\n\n<p class=\"dw-disclosure has-small-font-size wp-block-paragraph\">Wir haben diese Ger\u00e4te nicht selbst getestet \u2013 die Zahlen stammen aus den am Ende aufgef\u00fchrten Quellen, Messungen aus der Community sind als solche gekennzeichnet. Bei den Preisen handelt es sich um US-Listenpreise mit Datumsangabe; die Speicherknappheit hat viele davon im Lauf des Jahres 2026 steigen lassen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"podle-rozpoctu\">Was Sie kaufen sollten: die Kurzempfehlungen<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Wer nicht den ganzen Ratgeber lesen m\u00f6chte, findet hier die Abk\u00fcrzung. Jede Empfehlung wird weiter unten ausf\u00fchrlich behandelt, einige auch mit Video.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><a href=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-scaled.webp\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"1963\" src=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-scaled.webp\" alt=\"Welche Hardware sich f\u00fcr lokale KI lohnt, vom Einstieg bis zur Workstation\" class=\"wp-image-29355\" srcset=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-scaled.webp 2560w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-300x230.webp 300w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-1024x785.webp 1024w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-768x589.webp 768w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-1536x1178.webp 1536w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-2048x1571.webp 2048w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/rozpocet.de_-610x468.webp 610w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><\/a><figcaption class=\"wp-element-caption\">Kurzempfehlungen nach Klasse, vom g\u00fcnstigsten sinnvollen Einstieg bis zur Team-Workstation.<\/figcaption><\/figure>\n\n\n\n<figure class=\"wp-block-table is-style-stripes\"><table class=\"has-fixed-layout\"><thead><tr><th>Klasse<\/th><th>Empfehlung<\/th><th>Geeignete Modelle<\/th><\/tr><\/thead><tbody><tr><td>Einstieg<\/td><td><a href=\"#rtx-5060-ti-16gb\">RTX 5060 Ti 16&nbsp;GB<\/a> im vorhandenen PC<\/td><td>8\u201320B (Qwen3 14B, gpt-oss-20b)<\/td><\/tr><tr><td>Starter<\/td><td><a href=\"#mac-mini-m6\">Mac mini M6 mit 32&nbsp;GB<\/a> oder <a href=\"#rtx-5070-ti-vs-5080\">RTX 5070 Ti<\/a><\/td><td>bis 14B flott, Qwen3 30B-A3B<\/td><\/tr><tr><td>64&nbsp;GB<\/td><td><a href=\"#mac-mini-m5-pro\">Mac mini M5 Pro mit 64&nbsp;GB<\/a><\/td><td>20\u201335B, leiser Heimserver<\/td><\/tr><tr><td>128&nbsp;GB, g\u00fcnstig<\/td><td><a href=\"#ryzen-ai-max-395\">Ryzen AI Max+ 395 mit 128&nbsp;GB<\/a><\/td><td>gro\u00dfe MoE-Modelle bis 120B<\/td><\/tr><tr><td>128&nbsp;GB, schnell<\/td><td><a href=\"#mac-studio-m5-max\">Mac Studio M5 Max mit 128&nbsp;GB<\/a><\/td><td>gpt-oss-120b mit \u00fcber 100 Token\/s<\/td><\/tr><tr><td>CUDA-Entwicklung<\/td><td><a href=\"#dgx-spark\">DGX Spark oder ein anderer GB10-Rechner<\/a><\/td><td>CUDA-Entwicklung, Coding-Agenten<\/td><\/tr><tr><td>Max. Speicher<\/td><td><a href=\"#mac-studio-m5-ultra\">Mac Studio M5 Ultra mit 256&nbsp;GB<\/a><\/td><td>100\u2013250B-Modelle zu Hause<\/td><\/tr><tr><td>Team-Workstation<\/td><td><a href=\"#rtx-pro-6000\">RTX PRO 6000<\/a><\/td><td>70\u2013120B f\u00fcr ein ganzes Team<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"proc-lokalni-ai\">Warum KI lokal betreiben \u2013 und was Sie nicht erwarten sollten<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Ein lokales Modell l\u00e4uft auf Ihrem eigenen Rechner. Ihre Daten verlassen nie den Schreibtisch, Sie zahlen weder ein Monatsabo noch Geb\u00fchren pro Token, das Modell funktioniert offline, und niemand kann es \u00fcber Nacht ver\u00e4ndern oder abschalten. Das passt gut zu sensiblen Dokumenten, zu Coding-Assistenten, die mit Firmencode arbeiten, zu Automatisierungen, die Tausende Anfragen am Tag verschicken \u2013 oder einfach zum Experimentieren aus Spa\u00df an der Sache.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Es gibt zwei Haken. Erstens sind die offenen Modelle, die auf Heim-Hardware passen, zwar klug, reichen aber nicht an die besten Cloud-Dienste heran. Zweitens ist die Hardware nicht billig, und 2026 hat die Speicherknappheit die Preise nach oben getrieben. Die wichtigsten Gr\u00fcnde f\u00fcr lokale KI sind Datenschutz, Kontrolle und Unabh\u00e4ngigkeit \u2013 nicht Kostenersparnis.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"jak-model-bezi\">So l\u00e4uft ein Modell auf Ihrem Rechner<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Wenn Sie einem Modell eine Frage schicken, laufen zwei Phasen ab, und jede wird von etwas anderem begrenzt:<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n\n<li><strong>Prompt lesen (Prefill).<\/strong> Das Modell verarbeitet Ihre gesamte Eingabe auf einmal \u2013 die Frage, ein eingef\u00fcgtes Dokument, den Code Ihres Projekts. Diese Phase h\u00e4ngt von der <strong>Rechenleistung<\/strong> der GPU ab und bestimmt, wie lange Sie auf das erste Wort der Antwort warten. Bei einer kurzen Frage dauert das Sekundenbruchteile, bei einem Dokument mit Zehntausenden W\u00f6rtern k\u00f6nnen es Minuten werden.<\/li>\n\n\n<li><strong>Antwort schreiben (Decode).<\/strong> Das Modell erzeugt den Text Wort f\u00fcr Wort (genau genommen Token f\u00fcr Token). F\u00fcr jedes Token muss es das gesamte Modell aus dem Speicher lesen \u2013 bei Mixture-of-Experts-Modellen nur den aktiven Teil. Diese Phase h\u00e4ngt von der <strong>Speicherbandbreite<\/strong> ab: wie viele Gigabyte pro Sekunde der Chip lesen kann.<\/li>\n\n<\/ol>\n\n\n\n<figure class=\"wp-block-image size-full\"><a href=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-scaled.webp\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"1341\" src=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-scaled.webp\" alt=\"Prompt lesen und Antwort schreiben: zwei verschiedene Engp\u00e4sse\" class=\"wp-image-29356\" srcset=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-scaled.webp 2560w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-300x157.webp 300w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-1024x536.webp 1024w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-768x402.webp 768w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-1536x804.webp 1536w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-2048x1073.webp 2048w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/jak-model-bezi.de_-610x319.webp 610w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><\/a><figcaption class=\"wp-element-caption\">Beispiel: gpt-oss-120b in llama.cpp. NVIDIA f\u00fchrt beim Lesen des Prompts, Apple beim Schreiben.<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Der praktische Unterschied: <strong>Im Chat<\/strong> sp\u00fcren Sie vor allem die schnelle Ausgabe (hier gl\u00e4nzt der Mac). <strong>Bei Coding-Agenten und der Arbeit mit Dokumenten<\/strong>, die dem Modell st\u00e4ndig riesige Mengen Kontext schicken, z\u00e4hlt schnelles Prompt-Lesen genauso viel (und da f\u00fchrt NVIDIA). Die Geschwindigkeit wird in Token pro Sekunde gemessen \u2013 ein Token entspricht ungef\u00e4hr drei Vierteln eines Wortes. Rund 15 Token pro Sekunde entsprechen der Lesegeschwindigkeit, ab 50 wirkt das Modell flott.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"kolik-pameti\">Wie viel Speicher Sie brauchen<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Das gesamte Modell muss in schnellem Speicher liegen, auf den die GPU zugreifen kann: entweder im VRAM der Grafikkarte oder im gemeinsamen Speicher (Unified Memory), wie ihn Macs, der DGX Spark oder der Ryzen AI Max haben. Passt es nicht hinein, landet ein Teil im normalen Arbeitsspeicher, und die Geschwindigkeit bricht ein. In einem Test auf einer RTX 5060 Ti senkte die Auslagerung von nur einem Sechstel der Schichten von Qwen 14B die Ausgabegeschwindigkeit von <strong>43 auf 12,5 Token pro Sekunde<\/strong>; allein auf der CPU waren es 2,9.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><a href=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-scaled.webp\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"1890\" src=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-scaled.webp\" alt=\"Gr\u00f6\u00dfe popul\u00e4rer Modelle bei 4 Bit im Vergleich zum Ger\u00e4tespeicher\" class=\"wp-image-29357\" srcset=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-scaled.webp 2560w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-300x221.webp 300w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-1024x756.webp 1024w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-768x567.webp 768w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-1536x1134.webp 1536w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-2048x1512.webp 2048w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/velikost-modelu.de_-610x450.webp 610w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><\/a><figcaption class=\"wp-element-caption\">GGUF-Dateigr\u00f6\u00dfen von Hugging Face. Hinzu kommt Speicher f\u00fcr den Kontext.<\/figcaption><\/figure>\n\n\n\n<figure class=\"wp-block-table is-style-stripes\"><table class=\"has-fixed-layout\"><thead><tr><th>Modell<\/th><th>Typ<\/th><th>Gr\u00f6\u00dfe (4 Bit)<\/th><th>Passt in<\/th><\/tr><\/thead><tbody><tr><td>Llama 3.1 8B \/ Qwen3 8B<\/td><td>dicht<\/td><td>4,9\u20135,0&nbsp;GB<\/td><td>alles mit 8&nbsp;GB<\/td><\/tr><tr><td>Qwen3 14B<\/td><td>dicht<\/td><td>9,0&nbsp;GB<\/td><td>12\u201316&nbsp;GB<\/td><\/tr><tr><td>gpt-oss-20b<\/td><td>MoE<\/td><td>12,1&nbsp;GB (MXFP4)<\/td><td>16&nbsp;GB<\/td><\/tr><tr><td>Gemma 3 27B<\/td><td>dicht<\/td><td>16,6&nbsp;GB<\/td><td>24&nbsp;GB<\/td><\/tr><tr><td>Qwen3 30B-A3B<\/td><td>MoE, 3B aktiv<\/td><td>18,6&nbsp;GB<\/td><td>24&nbsp;GB<\/td><\/tr><tr><td>Qwen3 32B<\/td><td>dicht<\/td><td>19,8&nbsp;GB<\/td><td>24\u201332&nbsp;GB<\/td><\/tr><tr><td>Llama 3.3 70B<\/td><td>dicht<\/td><td>42,5&nbsp;GB<\/td><td>ab 48&nbsp;GB<\/td><\/tr><tr><td>gpt-oss-120b<\/td><td>MoE<\/td><td>63,4&nbsp;GB (MXFP4)<\/td><td>96\u2013128&nbsp;GB<\/td><\/tr><tr><td>GLM-4.5-Air 106B<\/td><td>MoE<\/td><td>73,0&nbsp;GB<\/td><td>ab 96&nbsp;GB<\/td><\/tr><tr><td>Qwen3.5&nbsp;122B-A10B<\/td><td>MoE<\/td><td>76,5&nbsp;GB<\/td><td>96\u2013128&nbsp;GB<\/td><\/tr><tr><td>Qwen3&nbsp;235B-A22B<\/td><td>MoE<\/td><td>142,2&nbsp;GB<\/td><td>192\u2013256&nbsp;GB<\/td><\/tr><tr><td>DeepSeek R1&nbsp;671B<\/td><td>MoE<\/td><td>404,9&nbsp;GB<\/td><td>512&nbsp;GB<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\" id=\"auch-der-kontext-braucht-speicher\">Auch der Kontext braucht Speicher<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Zus\u00e4tzlich zum Modell selbst brauchen Sie Speicher f\u00fcr den Kontext (den KV-Cache) \u2013 alles, was sich das Modell aus der Unterhaltung oder dem Dokument \u201emerkt\u201c. Bei Llama 3.3 70B sind das bei 32.000 Token Kontext etwa 10&nbsp;GB zus\u00e4tzlich, bei 128.000 Token rund 40&nbsp;GB. Die gpt-oss-Modelle sind dank eines gleitenden Fensters (Sliding Window) weit gen\u00fcgsamer: gpt-oss-120b braucht selbst f\u00fcr 128.000 Token h\u00f6chstens etwa 9&nbsp;GB. Mit wachsendem Kontext sinkt zudem die Ausgabegeschwindigkeit \u2013 gpt-oss-120b schreibt auf einem M5 Max mit kurzem Kontext etwa 80 Token pro Sekunde, bei 128.000 Token nur noch 14.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\" id=\"nicht-der-ganze-speicher-steht-der-gpu-zur-verf\u00fcgung\">Nicht der ganze Speicher steht der GPU zur Verf\u00fcgung<\/h3>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>macOS<\/strong> l\u00e4sst die GPU standardm\u00e4\u00dfig etwa 75 % des RAM nutzen (Apple ver\u00f6ffentlicht den genauen Wert nicht). Ein Mac mit 64&nbsp;GB bietet dem Modell also rund 48&nbsp;GB, ein Mac mit 128&nbsp;GB etwa 96&nbsp;GB. Mit <code>sudo sysctl iogpu.wired_limit_mb=\u2026<\/code> l\u00e4sst sich das Limit anheben, nach einem Neustart gilt aber wieder der Standardwert.<\/li>\n\n\n<li><strong>Windows auf dem Ryzen AI Max<\/strong> teilt den Speicher im BIOS in einem festen Verh\u00e4ltnis auf \u2013 die GPU erh\u00e4lt h\u00f6chstens 96 von 128&nbsp;GB. Unter Linux sind bis zu etwa 124&nbsp;GB m\u00f6glich.<\/li>\n\n\n<li><strong>Notebooks mit NVIDIA RTX Spark<\/strong> teilen den Speicher unter Windows standardm\u00e4\u00dfig etwa 50:50 auf, manuell eingestellt sind h\u00f6chstens 96 von 128&nbsp;GB m\u00f6glich. Die 32-GB-Version gibt der GPU nur 16&nbsp;GB.<\/li>\n\n\n<li><strong>DGX Spark<\/strong> weist den Speicher unter Linux dynamisch zu, sodass das Modell den Gro\u00dfteil der 128&nbsp;GB nutzen kann.<\/li>\n\n<\/ul>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"kvantizace-moe\">Quantisierung und MoE einfach erkl\u00e4rt<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Quantisierung<\/strong> ist Kompression f\u00fcr Modelle: Statt 16 Bit pro Parameter verwenden Sie 8 oder 4. Bei 4 Bit (bezeichnet als Q4, Q4_K_M oder MXFP4) belegt ein Modell etwa ein Viertel seiner urspr\u00fcnglichen Gr\u00f6\u00dfe, und die Qualit\u00e4t sinkt nur leicht \u2013 eine vern\u00fcnftige Standardwahl f\u00fcr den Heimgebrauch. Acht Bit (Q8) sind nahezu verlustfrei, aber doppelt so gro\u00df.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Mixture of Experts (MoE)<\/strong> ist eine Architektur, bei der das Modell sehr viele Parameter hat, f\u00fcr jedes Wort aber nur einen kleinen Teil davon nutzt. gpt-oss-120b hat 117 Milliarden Parameter, aktiviert pro Schritt aber nur etwa f\u00fcnf Milliarden, Qwen3 30B-A3B gerade einmal drei Milliarden. Ein solches Modell braucht viel Speicher, schreibt aber so schnell wie ein deutlich kleineres. Damit sind MoE-Modelle ideal f\u00fcr Rechner mit gro\u00dfem, aber langsamerem gemeinsamem Speicher \u2013 DGX Spark, Ryzen AI Max oder Macs. Dichte Modelle (Llama 70B, Qwen3 32B) lesen dagegen f\u00fcr jedes Wort das gesamte Modell und kriechen auf langsamem Speicher dahin.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"propustnost\">Speicherbandbreite: Warum ein Mac schneller schreibt als ein Spark<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die Ausgabegeschwindigkeit l\u00e4sst sich recht gut absch\u00e4tzen: Speicherbandbreite geteilt durch die Datenmenge, die das Modell pro Token lesen muss. Ein dichtes 70B-Modell bei 4 Bit (~42&nbsp;GB) kann auf einem DGX Spark mit 273&nbsp;GB\/s daher nicht schneller als etwa 6\u20137 Token pro Sekunde schreiben \u2013 gemessen werden rund 4,4.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><a href=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-scaled.webp\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"2074\" src=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-scaled.webp\" alt=\"Speicherbandbreite von Hardware f\u00fcr lokale KI\" class=\"wp-image-29358\" srcset=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-scaled.webp 2560w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-300x243.webp 300w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-1024x829.webp 1024w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-768x622.webp 768w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-1536x1244.webp 1536w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-2048x1659.webp 2048w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/propustnost.de_-610x494.webp 610w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><\/a><figcaption class=\"wp-element-caption\">Speicherbandbreite laut Herstellerangaben. Unter jedem Namen steht die Speicherkapazit\u00e4t, die das Modell nutzen kann.<\/figcaption><\/figure>\n\n\n\n<figure class=\"wp-block-image size-full\"><a href=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-scaled.webp\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"2016\" src=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-scaled.webp\" alt=\"Hardware-Karte f\u00fcr lokale KI: Speicherkapazit\u00e4t gegen Geschwindigkeit\" class=\"wp-image-29359\" srcset=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-scaled.webp 2560w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-300x236.webp 300w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-1024x806.webp 1024w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-768x605.webp 768w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-1536x1210.webp 1536w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-2048x1613.webp 2048w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/mapa-hardwaru.de_-610x480.webp 610w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><\/a><figcaption class=\"wp-element-caption\">Ger\u00e4te weiter rechts fassen gr\u00f6\u00dfere Modelle, Ger\u00e4te weiter oben schreiben schneller.<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Die Karte zeigt deutlich, dass es kein perfektes Ger\u00e4t gibt. NVIDIA-Grafikkarten haben den schnellsten Speicher, aber wenig Kapazit\u00e4t. DGX Spark, Ryzen AI Max und RTX Spark bieten viel Kapazit\u00e4t, aber langsameren Speicher. Der Mac Studio mit M5 Max \u2013 und vor allem mit M5 Ultra \u2013 vereint beides, um den Preis von fehlendem CUDA und langsamerem Prompt-Lesen als bei NVIDIA.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"srovnani-gpt-oss\">Gleiches Modell, unterschiedliche Hardware<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Am fairsten ist der Vergleich mit demselben Modell im selben Programm. Wir haben OpenAIs gpt-oss-120b (63&nbsp;GB) gew\u00e4hlt und Messungen aus llama.cpp, dem am weitesten verbreiteten Programm f\u00fcr lokale Modelle.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><a href=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-scaled.webp\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"1754\" src=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-scaled.webp\" alt=\"Geschwindigkeit von gpt-oss-120b auf unterschiedlicher Hardware\" class=\"wp-image-29360\" srcset=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-scaled.webp 2560w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-300x206.webp 300w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-1024x701.webp 1024w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-768x526.webp 768w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-1536x1052.webp 1536w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-2048x1403.webp 2048w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/gpt-oss-120b.de_-610x418.webp 610w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><\/a><figcaption class=\"wp-element-caption\">Ausgabe und Prompt-Lesen in llama.cpp. Die Werte f\u00fcr M5 Max und Ryzen AI Max sind Community-Messungen.<\/figcaption><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"srovnani\">Alle Ger\u00e4te im Vergleich<\/h2>\n\n\n\n<figure class=\"wp-block-table is-style-stripes\"><table class=\"has-fixed-layout\"><thead><tr><th>Ger\u00e4t<\/th><th>Speicher f\u00fcr KI<\/th><th>Bandbreite<\/th><th>gpt-oss-120b, Ausgabe<\/th><\/tr><\/thead><tbody><tr><td><a href=\"#mac-studio-m5-max\">Mac Studio M5 Max<\/a><\/td><td>~96 von 128&nbsp;GB<\/td><td>614&nbsp;GB\/s<\/td><td>105 t\/s\u00b9<\/td><\/tr><tr><td><a href=\"#dgx-spark\">NVIDIA DGX Spark<\/a><\/td><td>128&nbsp;GB<\/td><td>273&nbsp;GB\/s<\/td><td>58,7&nbsp;t\/s<\/td><\/tr><tr><td><a href=\"#rtx-spark-notebooky\">RTX-Spark-Notebooks<\/a><\/td><td>bis 96 von 128&nbsp;GB<\/td><td>bis 300&nbsp;GB\/s<\/td><td>\u2013<\/td><\/tr><tr><td><a href=\"#ryzen-ai-max-395\">Ryzen AI Max+ 395<\/a><\/td><td>96&nbsp;GB (Windows) \/ ~124&nbsp;GB (Linux)<\/td><td>256&nbsp;GB\/s<\/td><td>56,6&nbsp;t\/s<\/td><\/tr><tr><td><a href=\"#mac-studio-m5-ultra\">Mac Studio M5 Ultra<\/a><\/td><td>~192 von 256&nbsp;GB<\/td><td>1.228&nbsp;GB\/s<\/td><td>\u2013<\/td><\/tr><tr><td><a href=\"#mac-mini-m5-pro\">Mac mini M5 Pro<\/a><\/td><td>~48 von 64&nbsp;GB<\/td><td>307&nbsp;GB\/s<\/td><td>passt nicht<\/td><\/tr><tr><td><a href=\"#mac-mini-m6\">Mac mini M6<\/a><\/td><td>~24 von 32&nbsp;GB<\/td><td>170&nbsp;GB\/s<\/td><td>passt nicht<\/td><\/tr><tr><td><a href=\"#macbook-pro-m5-max\">MacBook Pro M5 Max<\/a><\/td><td>~96 von 128&nbsp;GB<\/td><td>614&nbsp;GB\/s<\/td><td>105 t\/s\u00b9<\/td><\/tr><tr><td><a href=\"#rtx-5090\">RTX 5090<\/a><\/td><td>32&nbsp;GB<\/td><td>1.792&nbsp;GB\/s<\/td><td>~30 t\/s\u00b2<\/td><\/tr><tr><td><a href=\"#rtx-5060-ti-16gb\">RTX 5060 Ti 16&nbsp;GB<\/a><\/td><td>16&nbsp;GB<\/td><td>448&nbsp;GB\/s<\/td><td>passt nicht<\/td><\/tr><tr><td><a href=\"#rtx-5070-ti-vs-5080\">RTX 5070 Ti \/ 5080<\/a><\/td><td>16&nbsp;GB<\/td><td>896 \/ 960&nbsp;GB\/s<\/td><td>passt nicht<\/td><\/tr><tr><td><a href=\"#rtx-pro-6000\">RTX PRO 6000 Max-Q<\/a><\/td><td>96&nbsp;GB<\/td><td>1.792&nbsp;GB\/s<\/td><td>170,6&nbsp;t\/s<\/td><\/tr><tr><td><a href=\"#gb10-klony\">GB10 von ASUS, MSI, Lenovo \u2026<\/a><\/td><td>128&nbsp;GB<\/td><td>273&nbsp;GB\/s<\/td><td>~ wie Spark<\/td><\/tr><tr><td><a href=\"#radeon-ai-pro-r9700\">Radeon AI PRO R9700<\/a><\/td><td>32&nbsp;GB<\/td><td>~640&nbsp;GB\/s<\/td><td>passt nicht<\/td><\/tr><tr><td><a href=\"#ai-pc-copilot\">Copilot+-Notebooks<\/a><\/td><td>~8 von 16&nbsp;GB<\/td><td>~135&nbsp;GB\/s<\/td><td>passt nicht<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">\u00b9 Community-Messung auf einem MacBook Pro M5 Max mit 128&nbsp;GB, llama.cpp. \u00b2 Teil des Modells in den Arbeitsspeicher ausgelagert.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"mac-studio-m5-max\">1. Mac Studio M5 Max \u2013 die schnellste Ausgabe f\u00fcrs Geld<\/h2>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"Mac Studio M5 Max for local AI: the fastest output for the money. But don&amp;apos;t buy 36 GB\" width=\"720\" height=\"405\" src=\"https:\/\/www.youtube.com\/embed\/Clue9LX1-Ks?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Der Mac Studio mit M5-Max-Chip ist derzeit die vern\u00fcnftigste Wahl f\u00fcr alle, die einen m\u00f6glichst schnellen lokalen Chat oder Agenten wollen und kein CUDA brauchen. Mit 614&nbsp;GB\/s Speicherbandbreite bringt die 128-GB-Version gpt-oss-120b auf \u00fcber 100 Token pro Sekunde \u2013 fast doppelt so schnell wie ein DGX Spark. Die neuen neuronalen Beschleuniger in jedem GPU-Kern haben auch das Prompt-Lesen beschleunigt, allerdings nur mit aktueller Software (siehe <a href=\"#software\">Software<\/a>).<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 36, 48, 64 oder 128&nbsp;GB \u00b7 <strong>Bandbreite<\/strong> 460&nbsp;GB\/s (36&nbsp;GB) \/ 614&nbsp;GB\/s<\/li>\n\n\n<li><strong>Leistungsaufnahme:<\/strong> 7&nbsp;W im Leerlauf, maximal 200&nbsp;W<\/li>\n\n\n<li><strong>Anschl\u00fcsse:<\/strong> 4\u00d7 Thunderbolt 5, 10GbE<\/li>\n\n\n<li><strong>Achtung:<\/strong> Die 36-GB-Version hat eine schw\u00e4chere GPU mit 32 Kernen und l\u00e4sst dem Modell nur etwa 27&nbsp;GB. Ab 48&nbsp;GB erhalten Sie den vollen Chip.<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> ab 2.499 US-Dollar (Grundkonfiguration, August 2026)<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> Chat und Agenten mit MoE-Modellen, einen leisen KI-Heimserver, alle, die auch Videos schneiden. <strong>Nicht geeignet f\u00fcr:<\/strong> alle, die CUDA, vLLM oder Training brauchen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"dgx-spark\">2. NVIDIA DGX Spark \u2013 eine Entwickler-Workstation, keine Chat-Box<\/h2>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"NVIDIA DGX Spark: an AI supercomputer for your desk. What it can and can&amp;apos;t do\" width=\"720\" height=\"405\" src=\"https:\/\/www.youtube.com\/embed\/uko7mfkYCWs?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Der GB10-Chip mit 128&nbsp;GB gemeinsamem Speicher und dem kompletten Software-Stack von NVIDIA (CUDA, vLLM, TensorRT-LLM) in einem Geh\u00e4use von 15 \u00d7 15 cm. Er liest Prompts schneller als jeder andere kleine Rechner \u2013 2.444 Token pro Sekunde bei gpt-oss-120b \u2013, schreibt mit 273&nbsp;GB\/s Bandbreite aber langsamer als ein Mac: 58,7 Token pro Sekunde und beim dichten Llama 70B nur 4,4. W\u00e4hrend ein Modell l\u00e4uft, zieht er 60\u201390&nbsp;W, und zwei Ger\u00e4te lassen sich per QSFP-Kabel f\u00fcr Modelle mit bis zu rund 400 Milliarden Parametern koppeln.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 128&nbsp;GB LPDDR5x \u00b7 <strong>Bandbreite<\/strong> 273&nbsp;GB\/s<\/li>\n\n\n<li><strong>GPU:<\/strong> Blackwell, 6.144 CUDA-Kerne \u00b7 <strong>KI-Leistung<\/strong> 1 PFLOP FP4 (mit Sparsity; in der Praxis etwa die H\u00e4lfte)<\/li>\n\n\n<li><strong>Betriebssystem:<\/strong> DGX OS (Ubuntu auf Arm)<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> 3.999 US-Dollar zum Start (Oktober 2025), 4.699 US-Dollar ab Februar 2026; ServeTheHome berichtete im Oktober 2026 von einem Wechsel in eine Preisklasse um 6.950 US-Dollar<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> CUDA-Entwicklung, Coding-Agenten mit gro\u00dfem Kontext, Fine-Tuning bis 70B. <strong>Nicht geeignet f\u00fcr:<\/strong> schnellen Chat mit dichten 70B-Modellen, Windows und Gaming, Einsteiger.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"rtx-spark-notebooky\">3. NVIDIA-RTX-Spark-Notebooks \u2013 128&nbsp;GB im Rucksack<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Der N1X-Chip ist ein f\u00fcr Windows-Notebooks angepasster GB10 mit schnellerem Speicher (bis 300&nbsp;GB\/s) und einem Leistungsrahmen von 45\u201380&nbsp;W. Im Test von The Register erreichte ein Notebook mit Qwen3.6 35B-A3B 67,6 Token pro Sekunde \u2013 mehr als der Desktop-DGX-Spark. Der Haken ist Windows: Die GPU erh\u00e4lt nur einen festen Teil des Speichers \u2013 h\u00f6chstens 16 von 32&nbsp;GB, 48 von 64&nbsp;GB und 96 von 128&nbsp;GB.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 32, 64 oder 128&nbsp;GB \u00b7 <strong>Bandbreite<\/strong> bis 300&nbsp;GB\/s<\/li>\n\n\n<li><strong>GPU:<\/strong> Blackwell, 6.144 Kerne (Leistung etwa auf dem Niveau einer Notebook-RTX-5070)<\/li>\n\n\n<li><strong>Betriebssystem:<\/strong> Windows 11 on Arm, CUDA ab Version 13.4<\/li>\n\n\n<li><strong>Achtung:<\/strong> Die ersten Ger\u00e4te (Surface, HP) st\u00fcrzten in Tests nach Stunden unter Volllast ab; Linux wird offiziell nicht unterst\u00fctzt<\/li>\n\n\n<li><strong>Preis in den USA:<\/strong> von 2.599 US-Dollar (Surface Laptop Ultra mit 24&nbsp;GB) bis 5.899,99 US-Dollar (Surface mit 128&nbsp;GB), Oktober 2026<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> gro\u00dfe Modelle auf einem Windows-Notebook, Coding-Agenten, kreative Arbeit. <strong>Nicht geeignet f\u00fcr:<\/strong> die 32-GB-Version, lange Trainingsl\u00e4ufe, reine x86-Software.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"ryzen-ai-max-395\">4. Ryzen AI Max+ 395 \u2013 die g\u00fcnstigsten 128&nbsp;GB<\/h2>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"Ryzen AI Max+ 395 with 128 GB: the cheapest way to big models. What&amp;apos;s the catch?\" width=\"720\" height=\"405\" src=\"https:\/\/www.youtube.com\/embed\/SFSN6lvpyz4?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Mini-PCs mit dem 16-Kern-Ryzen und Radeon-8060S-Grafik teilen sich 128&nbsp;GB Speicher. Die Ausgabegeschwindigkeit liegt auf dem Niveau des DGX Spark (gpt-oss-120b mit 56,6 Token pro Sekunde) zum etwa halben Preis, und die Ger\u00e4te laufen mit Windows und Linux \u2013 und mit Spielen. Die Schwachstelle ist das Prompt-Lesen: Es ist zwei- bis dreimal langsamer als beim Spark und bricht bei langem Kontext ein \u2013 auf 146 Token pro Sekunde mit dem Vulkan-Treiber, 371 mit ROCm.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 128&nbsp;GB LPDDR5x \u00b7 <strong>Bandbreite<\/strong> 256&nbsp;GB\/s (~215 gemessen)<\/li>\n\n\n<li><strong>F\u00fcr die GPU:<\/strong> 96&nbsp;GB unter Windows, ~124&nbsp;GB unter Linux<\/li>\n\n\n<li><strong>Software:<\/strong> Vulkan oder ROCm (gfx1151 wird seit 2026 offiziell unterst\u00fctzt)<\/li>\n\n\n<li><strong>HP Z2 Mini G1a<\/strong> ist teurer, aber eine zertifizierte Workstation mit ECC-Speicher und drei Jahren Garantie<\/li>\n\n\n<li><strong>Preisbeispiel USA:<\/strong> Der Framework Desktop mit 128&nbsp;GB startete bei 1.999 US-Dollar und kostet nach der Speicherpreiserh\u00f6hung 2026 nun 2.459 US-Dollar<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> m\u00f6glichst viel Speicher f\u00fcrs Geld, gro\u00dfe MoE-Modelle, Chat und Zusammenfassungen. <strong>Nicht geeignet f\u00fcr:<\/strong> Agenten mit riesigem Kontext, CUDA; f\u00fcr gro\u00dfe Modelle auch nicht das Tablet ROG Flow Z13 mit 32\u201364&nbsp;GB.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"mac-studio-m5-ultra\">5. Mac Studio M5 Ultra \u2013 der Speicherk\u00f6nig<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Bis zu 512&nbsp;GB Speicher und 1,2&nbsp;TB\/s Bandbreite. Im Test von MacStories las der M5 Ultra Prompts viermal so schnell wie der Vorg\u00e4nger M3 Ultra und schrieb 50 % schneller. In die 256-GB-Version passt sogar Qwen3&nbsp;235B. Mehrere Ger\u00e4te lassen sich \u00fcber Thunderbolt 5 und RDMA koppeln: Laut Apple betreiben vier M5 Ultra ein Modell mit 816 Milliarden Parametern mit 36,7 Token pro Sekunde.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 96, 256 oder 512&nbsp;GB (512&nbsp;GB kommt Ende Oktober) \u00b7 <strong>Bandbreite<\/strong> 1.228&nbsp;GB\/s<\/li>\n\n\n<li><strong>Leistungsaufnahme:<\/strong> 9&nbsp;W im Leerlauf, rund 300&nbsp;W, w\u00e4hrend ein Modell l\u00e4uft<\/li>\n\n\n<li><strong>Anschl\u00fcsse:<\/strong> 6\u00d7 Thunderbolt 5<\/li>\n\n\n<li><strong>Achtung:<\/strong> Der Speicher l\u00e4sst sich nicht nachr\u00fcsten; im September betrug die Lieferzeit bis zu 18 Wochen<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> ab 5.499 US-Dollar (August 2026); der Schritt von 96 auf 256&nbsp;GB kostet 4.000 US-Dollar mehr<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> 100\u2013250B-Modelle, Agenten mit langem Kontext, kleine Teams. <strong>Nicht geeignet f\u00fcr:<\/strong> Modelle bis 30B, CUDA, knappe Budgets.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"mac-mini-m5-pro\">6. Mac mini M5 Pro \u2013 der vern\u00fcnftige Einstieg<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Der g\u00fcnstigste Mac, auf dem wirklich brauchbare Modelle laufen. 307&nbsp;GB\/s Bandbreite, bis zu 64&nbsp;GB Speicher und Thunderbolt 5. Dank der neuronalen Beschleuniger liest er Prompts etwa dreimal so schnell wie der Vorg\u00e4nger M4 Pro. Die 64-GB-Version bew\u00e4ltigt Modelle bis 32 Milliarden Parameter m\u00fchelos; das dichte Llama 70B passt zwar hinein, schafft aber nur etwa 7 Token pro Sekunde, und gpt-oss-120b passt nicht.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 24, 48 oder 64&nbsp;GB \u00b7 <strong>Bandbreite<\/strong> 307&nbsp;GB\/s<\/li>\n\n\n<li><strong>Leistungsaufnahme:<\/strong> 6&nbsp;W im Leerlauf, maximal 145&nbsp;W \u00b7 im Leerlauf praktisch lautlos<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> ab 1.699 US-Dollar (Grundkonfiguration, August 2026)<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> 20\u201335B-Modelle, einen leisen KI-Heimserver. <strong>Nicht geeignet f\u00fcr:<\/strong> gpt-oss-120b, dichte 70B-Modelle, die 24-GB-Version.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"mac-mini-m6\">7. Mac mini M6 \u2013 g\u00fcnstig, aber nicht mit 16&nbsp;GB<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Der g\u00fcnstigste Mac mit neuronalen Beschleunigern. Bei 32&nbsp;GB und 170&nbsp;GB\/s ist Schluss \u2013 die 16-GB-Version hat nur 153&nbsp;GB\/s und l\u00e4sst dem Modell etwa 12&nbsp;GB. Verglichen mit dem bisherigen Mac mini mit M4 liest er Prompts 4,5-mal so schnell und schreibt 50 % schneller, und das praktisch zum gleichen Preis \u2013 kaufen Sie das alte Modell also auch im Angebot nicht.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 16, 24 oder 32&nbsp;GB (Maximum) \u00b7 <strong>Bandbreite<\/strong> 153 \/ 170&nbsp;GB\/s<\/li>\n\n\n<li><strong>Leistungsaufnahme:<\/strong> 4&nbsp;W im Leerlauf, maximal 70&nbsp;W<\/li>\n\n\n<li><strong>Achtung:<\/strong> nur Thunderbolt 4, daher keine Kopplung mehrerer Ger\u00e4te<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> ab 899 US-Dollar (Grundkonfiguration, August 2026)<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> 7\u201314B-Modelle, gpt-oss-20b, Qwen3 30B-A3B. <strong>Nicht geeignet f\u00fcr:<\/strong> die 16-GB-Version, Modelle ab 70B.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"macbook-pro-m5-max\">8. MacBook Pro M5 Max \u2013 KI f\u00fcr unterwegs<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Derselbe Chip wie im Mac Studio und damit dieselbe Geschwindigkeit: das schnellste Notebook f\u00fcr lokale Modelle. Mit dem mittelgro\u00dfen Qwen3.6 35B-A3B erzeugt es \u00fcber 90 Token pro Sekunde. Die 14-Zoll-Version drosselt allerdings unter Dauerlast (von 96 auf 42&nbsp;W), und die Ladeleistung ist auf 97&nbsp;W begrenzt. Ein Mac Studio mit demselben Chip und 128&nbsp;GB ist deutlich g\u00fcnstiger.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 36, 48, 64 oder 128&nbsp;GB \u00b7 <strong>Bandbreite<\/strong> 460 \/ 614&nbsp;GB\/s<\/li>\n\n\n<li><strong>Akku:<\/strong> 72,4&nbsp;Wh (14&#8243;) \/ 100&nbsp;Wh (16&#8243;)<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> ab 3.599 US-Dollar (14&#8243;) und 3.899 US-Dollar (16&#8243;), M\u00e4rz 2026; der Schritt von 64 auf 128&nbsp;GB kostet 1.000 US-Dollar mehr<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> alle, die unterwegs gro\u00dfe Modelle brauchen, idealerweise das 16-Zoll-Modell mit 64\u2013128&nbsp;GB. <strong>Nicht geeignet f\u00fcr:<\/strong> die 36-GB-Version, Dauerlast rund um die Uhr, alle, die ohnehin am Schreibtisch arbeiten.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"rtx-5090\">9. RTX 5090 \u2013 die schnellste, aber nur 32&nbsp;GB<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Mit 1.792&nbsp;GB\/s Bandbreite schreibt gpt-oss-20b fast 300 Token pro Sekunde, und die Karte liest einen langen Prompt etwa doppelt so schnell wie ein Mac Studio mit M5 Ultra. In 32&nbsp;GB passen Modelle bis etwa 32 Milliarden Parameter bei 4 Bit, auch mit langem Kontext; ein Modell mit 70 Milliarden Parametern passt nicht. Gro\u00dfe MoE-Modelle lassen sich teilweise in den Arbeitsspeicher auslagern \u2013 gpt-oss-120b l\u00e4uft dann mit etwa 30 Token pro Sekunde.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 32&nbsp;GB GDDR7 \u00b7 <strong>Bandbreite<\/strong> 1.792&nbsp;GB\/s<\/li>\n\n\n<li><strong>Leistungsaufnahme:<\/strong> 575&nbsp;W, empfohlen ist ein 1.000-W-Netzteil<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> 1.999 US-Dollar zum Start (Januar 2025); die Stra\u00dfenpreise liegen 2026 wegen der Speicherknappheit weit dar\u00fcber<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> Coding-Agenten und RAG mit Modellen bis 32B, CUDA-Entwicklung, Gaming. <strong>Nicht geeignet f\u00fcr:<\/strong> Modelle ab 70B, einen leisen, sparsamen Server.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"rtx-5060-ti-16gb\">10. RTX 5060 Ti 16&nbsp;GB \u2013 der g\u00fcnstigste sinnvolle Einstieg<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die g\u00fcnstigste neue Grafikkarte mit 16&nbsp;GB. Sie bringt gpt-oss-20b auf etwa 92 Token pro Sekunde, Qwen3 8B auf 69 und Qwen3 14B auf 41 \u2013 schneller, als Sie lesen k\u00f6nnen. Ihre Speicherbandbreite ist allerdings nur halb so hoch wie die der RTX 5070 Ti, sie schreibt also etwa halb so schnell, und Modelle um 30 Milliarden Parameter passen nicht in 16&nbsp;GB.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 16&nbsp;GB GDDR7 \u00b7 <strong>Bandbreite<\/strong> 448&nbsp;GB\/s<\/li>\n\n\n<li><strong>Leistungsaufnahme:<\/strong> 180&nbsp;W, ein 600-W-Netzteil gen\u00fcgt<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> 429 US-Dollar f\u00fcr die 16-GB-Version zum Start (April 2025)<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> erste ernsthafte Experimente, 8\u201320B-Modelle, einen g\u00fcnstigen KI-PC. <strong>Nicht geeignet f\u00fcr:<\/strong> Modelle ab 27B.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"rtx-5070-ti-vs-5080\">11. RTX 5070 Ti vs. RTX 5080 \u2013 f\u00fcr KI nahezu identisch<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Beide Karten haben 16&nbsp;GB und fast dieselbe Bandbreite (896 vs. 960&nbsp;GB\/s) und schreiben daher nahezu gleich schnell: 182,4 vs. 184,7 Token pro Sekunde im Standardtest von llama.cpp und 74 vs. 81 bei Qwen3 14B. In beide passen exakt dieselben Modelle. Die 5080 ist vor allem in Spielen schneller \u2013 und ihr Startpreis lag 250 US-Dollar h\u00f6her (999 vs. 749 US-Dollar).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Unser Rat:<\/strong> Nehmen Sie f\u00fcr KI die RTX 5070 Ti und stecken Sie das gesparte Geld in eine gr\u00f6\u00dfere SSD oder mehr RAM. Zur RTX 5080 greifen Sie nur, wenn Gaming im Vordergrund steht.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"rtx-pro-6000\">12. RTX PRO 6000 \u2013 96&nbsp;GB auf einer Karte<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die einzige Karte, in die Llama 3.3 70B (32 Token pro Sekunde), gpt-oss-120b (170,6 Token pro Sekunde in der Max-Q-Version) und Qwen3.5&nbsp;122B (etwa 98 Token pro Sekunde) komplett passen. Dank CUDA und vLLM kann sie mehrere Nutzer gleichzeitig bedienen. Sie ist als einzelne Karte oder in einer fertig konfigurierten Workstation erh\u00e4ltlich.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 96&nbsp;GB GDDR7 mit ECC \u00b7 <strong>Bandbreite<\/strong> 1.792&nbsp;GB\/s<\/li>\n\n\n<li><strong>Leistungsaufnahme:<\/strong> 300&nbsp;W (Max-Q); die volle 600-W-Version schreibt etwa 13 % schneller<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> 8.565 US-Dollar zum Start; NVIDIA hob ihn sp\u00e4ter auf 13.250 US-Dollar an<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> Unternehmen und Teams, die gro\u00dfe Modelle im eigenen Haus betreiben oder trainieren wollen. <strong>Nicht geeignet f\u00fcr:<\/strong> Privatanwender und Hobbyisten.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"gb10-klony\">13. DGX Spark von ASUS, MSI, Lenovo, Dell und Gigabyte \u2013 welcher soll es sein?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">F\u00fcnf weitere Hersteller verkaufen denselben GB10-Chip wie der DGX Spark. Die KI-Leistung unterscheidet sich nur um wenige Prozent; die Unterschiede liegen bei Massenspeicher, Netzteil, K\u00fchlung und Support \u2013 und beim Preis.<\/p>\n\n\n\n<figure class=\"wp-block-table is-style-stripes\"><table class=\"has-fixed-layout\"><thead><tr><th>Modell<\/th><th>Massenspeicher<\/th><th>Netzteil<\/th><th>Besonderheit<\/th><\/tr><\/thead><tbody><tr><td>NVIDIA \/ PNY DGX Spark<\/td><td>4&nbsp;TB, selbstverschl\u00fcsselnd<\/td><td>240&nbsp;W<\/td><td>das Original<\/td><\/tr><tr><td>GIGABYTE AI TOP ATOM<\/td><td>4&nbsp;TB PCIe 5.0<\/td><td>240&nbsp;W<\/td><td>schnellste SSD<\/td><\/tr><tr><td>ASUS Ascent GX10<\/td><td>1&nbsp;TB PCIe 4.0 \/ 4&nbsp;TB PCIe 5.0<\/td><td>240&nbsp;W<\/td><td>Einschalter vorn<\/td><\/tr><tr><td>Lenovo ThinkStation PGX<\/td><td>1 \/ 2 \/ 4&nbsp;TB, selbstverschl\u00fcsselnd<\/td><td>240&nbsp;W<\/td><td>ein Jahr Vor-Ort-Service<\/td><\/tr><tr><td>Dell Pro Max with GB10<\/td><td>PCIe 4.0 (2&nbsp;TB ist QLC)<\/td><td>280&nbsp;W<\/td><td>st\u00e4rkeres Netzteil, hei\u00dfeste SSD<\/td><\/tr><tr><td>MSI EdgeXpert<\/td><td>4&nbsp;TB<\/td><td>\u2013<\/td><td>neu, noch keine unabh\u00e4ngigen Tests<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Unser Rat:<\/strong> Die beste Ausstattung f\u00fcr vern\u00fcnftiges Geld bietet der Gigabyte AI TOP ATOM mit 4&nbsp;TB schnellem Massenspeicher; der g\u00fcnstigste bew\u00e4hrte Einstieg ist der ASUS Ascent GX10 mit 1&nbsp;TB, der in den USA f\u00fcr etwa 3.000 US-Dollar startete. Wer zwei Ger\u00e4te koppeln will, braucht ein QSFP-Kabel. Neu seit dem 23. Oktober 2026: eine 64-GB-Version des GB10, die nur die Partnermarken verkaufen, ab 4.999 US-Dollar.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"radeon-ai-pro-r9700\">14. Radeon AI PRO R9700 \u2013 32&nbsp;GB zum Bruchteil einer RTX 5090<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die g\u00fcnstigste neue Karte mit 32&nbsp;GB. Im selben Vulkan-Test schreibt sie etwa 40 % langsamer als die RTX 5090, fasst aber dieselben Modelle \u2013 rund 30 Milliarden Parameter, auch mit l\u00e4ngerem Kontext. gpt-oss-20b und Qwen3 30B-A3B laufen darauf mit \u00fcber 150 Token pro Sekunde. Vorsicht beim Marketing: \u201eBis zu f\u00fcnfmal schneller als die RTX 5080\u201c gilt nur f\u00fcr ein Modell, das nicht in 16&nbsp;GB passt.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Speicher:<\/strong> 32&nbsp;GB GDDR6 \u00b7 <strong>Bandbreite<\/strong> ~640&nbsp;GB\/s \u00b7 <strong>Leistungsaufnahme<\/strong> 300&nbsp;W<\/li>\n\n\n<li><strong>Software:<\/strong> Vulkan (meist schnellere Ausgabe) oder ROCm (schnelleres Prompt-Lesen); kein CUDA<\/li>\n\n\n<li><strong>Listenpreis in den USA:<\/strong> 1.299 US-Dollar (Oktober 2025)<\/li>\n\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> 27\u201332B-Modelle mit langem Kontext, mehrere Karten in einem PC. <strong>Nicht geeignet f\u00fcr:<\/strong> reine CUDA-Werkzeuge, maximale Geschwindigkeit.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"ai-pc-copilot\">15. \u201eKI-PCs\u201c und Copilot+-Notebooks \u2013 ein Mythos<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Copilot+ ist Microsofts Zertifizierung f\u00fcr Windows-Funktionen \u2013 Kameraeffekte, Live-Untertitel, Recall oder das kleine integrierte Modell Phi Silica. \u00dcber die F\u00e4higkeit, gro\u00dfe Sprachmodelle auszuf\u00fchren, sagt sie nichts aus. Weder Ollama noch LM Studio nutzen die Neural Processing Unit (NPU), llama.cpp nur experimentell; die NPU nutzen lediglich Herstellerwerkzeuge wie Microsoft Foundry Local oder AMD Lemonade mit ausgew\u00e4hlten Modellen.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><a href=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-scaled.webp\"><img loading=\"lazy\" decoding=\"async\" width=\"2560\" height=\"1259\" src=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-scaled.webp\" alt=\"Ausgabegeschwindigkeit eines Modells mit 8 Milliarden Parametern: Copilot+-Notebook gegen Grafikkarte\" class=\"wp-image-29361\" srcset=\"https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-scaled.webp 2560w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-300x148.webp 300w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-1024x504.webp 1024w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-768x378.webp 768w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-1536x756.webp 1536w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-2048x1007.webp 2048w, https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/ai-pc-npu.de_-610x300.webp 610w\" sizes=\"auto, (max-width: 2560px) 100vw, 2560px\" \/><\/a><figcaption class=\"wp-element-caption\">Selbst eine g\u00fcnstige Grafikkarte ist bei Sprachmodellen um ein Vielfaches schneller als eine NPU.<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Hinzu kommt, dass diese Notebooks Speicher mit rund 135&nbsp;GB\/s Bandbreite und 16&nbsp;GB RAM haben, was etwa 8&nbsp;GB f\u00fcr das Modell \u00fcbrig l\u00e4sst. Sie taugen f\u00fcr Modelle bis 4 Milliarden Parameter und Windows-Funktionen \u2013 nicht f\u00fcr das \u201eeigene ChatGPT zu Hause\u201c.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Geeignet f\u00fcr:<\/strong> B\u00fcroarbeit, lange Akkulaufzeit, kleine 1\u20134B-Modelle. <strong>Nicht geeignet f\u00fcr:<\/strong> alle, die Modelle ab 14B betreiben wollen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"spotreba\">Stromverbrauch und Betriebskosten<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Soll der Rechner rund um die Uhr als KI-Heimserver laufen, z\u00e4hlen auch Stromverbrauch und Lautst\u00e4rke.<\/p>\n\n\n\n<figure class=\"wp-block-table is-style-stripes\"><table class=\"has-fixed-layout\"><thead><tr><th>Ger\u00e4t<\/th><th>Leerlauf<\/th><th>Modell l\u00e4uft \/ Maximum<\/th><th>Hinweis<\/th><\/tr><\/thead><tbody><tr><td>Mac mini M6<\/td><td>4&nbsp;W<\/td><td>max. 70&nbsp;W<\/td><td>praktisch lautlos<\/td><\/tr><tr><td>Mac mini M5 Pro<\/td><td>6&nbsp;W<\/td><td>max. 145&nbsp;W<\/td><td>5&nbsp;dBA im Leerlauf (Apple)<\/td><\/tr><tr><td>Mac Studio M5 Max<\/td><td>7&nbsp;W<\/td><td>max. 200&nbsp;W<\/td><td>leise<\/td><\/tr><tr><td>Mac Studio M5 Ultra<\/td><td>9&nbsp;W<\/td><td>~300&nbsp;W mit KI-Last<\/td><td>laut Tests leise<\/td><\/tr><tr><td>DGX Spark<\/td><td>25\u201345&nbsp;W<\/td><td>60\u201390&nbsp;W mit KI-Last, Spitzen bis 200&nbsp;W<\/td><td>abh\u00e4ngig von der Firmware-Version<\/td><\/tr><tr><td>Mini-PC mit Ryzen AI Max+ 395<\/td><td>~13&nbsp;W<\/td><td>120\u2013160&nbsp;W<\/td><td>HP Z2 Mini unter Last laut<\/td><\/tr><tr><td>RTX 5090 (nur Karte)<\/td><td>\u2013<\/td><td>bis 575&nbsp;W<\/td><td>plus restlicher PC<\/td><\/tr><tr><td>RTX 5060 Ti (nur Karte)<\/td><td>\u2013<\/td><td>bis 180&nbsp;W<\/td><td><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Die Werte stammen von Herstellern und aus Tests (ServeTheHome, Tom&#8217;s Hardware, Notebookcheck) und wurden nicht mit derselben Methode ermittelt \u2013 verstehen Sie sie als Richtwerte.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"software\">Software: Womit Sie das Modell betreiben<\/h2>\n\n\n\n<ul class=\"wp-block-list\">\n\n<li><strong>Ollama<\/strong> \u2013 der einfachste Einstieg auf jeder Plattform; ein Modell laden Sie mit einem einzigen Befehl herunter. Auf dem Mac nutzt es ab Version 0.19 (noch als Vorschau, f\u00fcr ausgew\u00e4hlte Modelle) MLX und die neuronalen Beschleuniger des M5.<\/li>\n\n\n<li><strong>LM Studio<\/strong> \u2013 eine \u00fcbersichtliche App mit grafischer Oberfl\u00e4che. <strong>Tipp f\u00fcr Macs mit M5:<\/strong> Mit GGUF-Modellen nutzt es die neuronalen Beschleuniger noch nicht und liest Prompts nur etwa halb so schnell; verwenden Sie stattdessen Modelle im MLX-Format.<\/li>\n\n\n<li><strong>llama.cpp<\/strong> \u2013 die Grundlage der meisten anderen Werkzeuge, mit den meisten Einstellungen und der schnellsten Unterst\u00fctzung neuer Hardware. Auf dem Ryzen AI Max lohnt es sich, beide Backends auszuprobieren: Vulkan schreibt meist schneller, ROCm liest lange Prompts schneller.<\/li>\n\n\n<li><strong>MLX<\/strong> \u2013 Apples Bibliothek mit der besten Leistung auf dem Mac, einschlie\u00dflich der Kopplung mehrerer Macs \u00fcber Thunderbolt 5.<\/li>\n\n\n<li><strong>vLLM, SGLang, TensorRT-LLM<\/strong> \u2013 Server-Werkzeuge f\u00fcr NVIDIA, wenn ein Modell mehrere Nutzer gleichzeitig bedient.<\/li>\n\n<\/ul>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"chyby\">Die h\u00e4ufigsten Fehler beim Kauf<\/h2>\n\n\n\n<ol class=\"wp-block-list\">\n\n<li><strong>Ein Mac mit 36&nbsp;GB \u201ef\u00fcr KI\u201c.<\/strong> Er hat einen schw\u00e4cheren Chip und l\u00e4sst dem Modell nur etwa 27&nbsp;GB.<\/li>\n\n\n<li><strong>Ein RTX-Spark-Notebook mit 32&nbsp;GB.<\/strong> Windows gibt der GPU h\u00f6chstens 16&nbsp;GB.<\/li>\n\n\n<li><strong>Ein Mac mini M6 mit 16&nbsp;GB.<\/strong> Langsamerer Speicher und nur etwa 12&nbsp;GB f\u00fcr das Modell.<\/li>\n\n\n<li><strong>Ein Copilot+-Notebook f\u00fcr lokale KI.<\/strong> G\u00e4ngige Werkzeuge nutzen die NPU nicht.<\/li>\n\n\n<li><strong>Eine RTX 5080 statt einer 5070 Ti nur f\u00fcr KI.<\/strong> Dieselben 16&nbsp;GB, fast dieselbe Geschwindigkeit.<\/li>\n\n\n<li><strong>Die Speicherbandbreite ignorieren.<\/strong> Gro\u00dfer, aber langsamer Speicher bedeutet langsame Ausgabe bei dichten Modellen.<\/li>\n\n\n<li><strong>Am Speicher sparen.<\/strong> Bei Macs, Ryzen AI Max und RTX Spark ist der Speicher verl\u00f6tet und l\u00e4sst sich nicht nachr\u00fcsten.<\/li>\n\n<\/ol>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"faq\">H\u00e4ufige Fragen<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Reichen 16&nbsp;GB f\u00fcr lokale KI?<\/strong> F\u00fcr Modelle bis 14\u201320 Milliarden Parameter ja \u2013 etwa gpt-oss-20b oder Qwen3 14B. Modelle um 30 Milliarden brauchen 24\u201332&nbsp;GB, f\u00fcr 70 Milliarden sind mindestens 48&nbsp;GB n\u00f6tig.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Mac oder NVIDIA?<\/strong> Ein Mac schreibt schneller und bietet mehr Speicher f\u00fcrs Geld; NVIDIA liest Prompts schneller und hat CUDA. Bei Chat und Agenten mit MoE-Modellen liegt der Mac vorn, bei Entwicklung, Training und dem Betrieb f\u00fcr mehrere Nutzer NVIDIA.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Was bedeutet \u201eMoE\u201c?<\/strong> Mixture of Experts: Das Modell hat viele Parameter, nutzt f\u00fcr jedes Wort aber nur einen kleinen Teil davon. Es braucht viel Speicher, schreibt aber so schnell wie ein kleineres Modell.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Wie schnell muss ein Modell schreiben?<\/strong> Etwa 15 Token pro Sekunde entsprechen der Lesegeschwindigkeit. F\u00fcr fl\u00fcssigen Chat sind 30 oder mehr angenehm, f\u00fcr Coding-Agenten, die viel Text erzeugen, sind 50 oder mehr besser.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Ist lokale KI g\u00fcnstiger als ein Abo?<\/strong> Meist nicht \u2013 Modelle, die mit den besten Cloud-Diensten vergleichbar sind, brauchen Rechner f\u00fcr viele Tausend Dollar. Die Hauptgr\u00fcnde sind Datenschutz, Kontrolle \u00fcber die eigenen Daten und Unabh\u00e4ngigkeit.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Kann ich mehrere Rechner koppeln?<\/strong> Ja. Zwei DGX Spark verbinden Sie per QSFP-Kabel, Macs \u00fcber Thunderbolt 5 mit RDMA (mit MLX oder exo). Der Mac mini M6 kann das nicht, weil er nur Thunderbolt 4 hat.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"zdroje\">So haben wir verglichen \u2013 und die Quellen<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Wir haben die Ger\u00e4te nicht selbst getestet. Die Zahlen stammen aus gepr\u00fcften Quellen, die wir in den Grafiken stets angeben. Die Geschwindigkeit vergleichen wir in einem einzigen Programm (llama.cpp), weil ein anderes Programm oder eine andere Quantisierung die Ergebnisse leicht um 20\u201350 % verschieben kann. Community-Messungen (GitHub, Foren) sind gekennzeichnet. Die Preise sind US-Listenpreise aus Herstellerank\u00fcndigungen und Tests, jeweils mit Datum.<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n\n<li>Modell l\u00e4uft in den Arbeitsspeicher \u00fcber, RTX 5060 Ti: <a href=\"https:\/\/inventivehq.com\/blog\/vram-offload-cliff-gpu-layers-benchmark\" rel=\"noopener\" target=\"_blank\">inventivehq.com\/blog\/vram-offload-cliff-gpu-layers-benchmark<\/a><\/li>\n\n\n<li>DGX-Spark-Benchmark: <a href=\"https:\/\/github.com\/ggml-org\/llama.cpp\/blob\/master\/benches\/dgx-spark\/dgx-spark.md\" rel=\"noopener\" target=\"_blank\">github.com\/ggml-org\/llama.cpp\/blob\/master\/benches\/dgx-spark\/dgx-spark.md<\/a><\/li>\n\n\n<li>gpt-oss-Leitfaden und GPU-Messungen: <a href=\"https:\/\/github.com\/ggml-org\/llama.cpp\/discussions\/15396\" rel=\"noopener\" target=\"_blank\">github.com\/ggml-org\/llama.cpp\/discussions\/15396<\/a><\/li>\n\n\n<li>M5 Max und LM Studio: <a href=\"https:\/\/github.com\/lmstudio-ai\/lmstudio-bug-tracker\/issues\/2040\" rel=\"noopener\" target=\"_blank\">github.com\/lmstudio-ai\/lmstudio-bug-tracker\/issues\/2040<\/a><\/li>\n\n\n<li>Ryzen AI Max (Strix Halo): <a href=\"https:\/\/strix-halo-toolboxes.com\" rel=\"noopener\" target=\"_blank\">strix-halo-toolboxes.com<\/a>, <a href=\"https:\/\/llm-tracker.info\/_TOORG\/Strix-Halo\" rel=\"noopener\" target=\"_blank\">llm-tracker.info\/_TOORG\/Strix-Halo<\/a><\/li>\n\n\n<li>Apple: <a href=\"https:\/\/apple.com\/mac-studio\/specs\" rel=\"noopener\" target=\"_blank\">apple.com\/mac-studio\/specs<\/a>, <a href=\"https:\/\/apple.com\/mac-mini\/specs\" rel=\"noopener\" target=\"_blank\">apple.com\/mac-mini\/specs<\/a>, <a href=\"https:\/\/machinelearning.apple.com\/research\/mlx-distributed-inference\" rel=\"noopener\" target=\"_blank\">machinelearning.apple.com\/research\/mlx-distributed-inference<\/a><\/li>\n\n\n<li>M5 Ultra: <a href=\"https:\/\/macstories.net\/stories\/m5-ultra-mac-studio-review-the-dream-mac-for-local-ai-agents\" rel=\"noopener\" target=\"_blank\">macstories.net\/stories\/m5-ultra-mac-studio-review-the-dream-mac-for-local-ai-agents<\/a><\/li>\n\n\n<li>RTX Spark: <a href=\"https:\/\/theregister.com\" rel=\"noopener\" target=\"_blank\">theregister.com<\/a> (16. Oktober 2026), <a href=\"https:\/\/servethehome.com\" rel=\"noopener\" target=\"_blank\">servethehome.com<\/a>, <a href=\"https:\/\/storagereview.com\" rel=\"noopener\" target=\"_blank\">storagereview.com<\/a><\/li>\n\n\n<li>GeForce-Grafikkarten: <a href=\"https:\/\/nvidia.com\/en-us\/geforce\/graphics-cards\/compare\" rel=\"noopener\" target=\"_blank\">nvidia.com\/en-us\/geforce\/graphics-cards\/compare<\/a>, <a href=\"https:\/\/hardware-corner.net\/gpu-llm-benchmarks\" rel=\"noopener\" target=\"_blank\">hardware-corner.net\/gpu-llm-benchmarks<\/a><\/li>\n\n\n<li>llama.cpp-Bestenlisten: <a href=\"https:\/\/github.com\/ggml-org\/llama.cpp\/discussions\/15013\" rel=\"noopener\" target=\"_blank\">github.com\/ggml-org\/llama.cpp\/discussions\/15013<\/a> und \/10879<\/li>\n\n\n<li>Copilot+ PC: <a href=\"https:\/\/microsoft.com\/windows\/windows-11-specifications\" rel=\"noopener\" target=\"_blank\">microsoft.com\/windows\/windows-11-specifications<\/a>, <a href=\"https:\/\/docs.ollama.com\/gpu\" rel=\"noopener\" target=\"_blank\">docs.ollama.com\/gpu<\/a>, <a href=\"https:\/\/fastflowlm.com\" rel=\"noopener\" target=\"_blank\">fastflowlm.com<\/a><\/li>\n\n\n<li>Modellgr\u00f6\u00dfen: <a href=\"https:\/\/huggingface.co\" rel=\"noopener\" target=\"_blank\">huggingface.co<\/a> (Repositories von ggml-org, unsloth und bartowski)<\/li>\n\n\n<li>Preise: Apple Newsroom, NVIDIA Newsroom und Entwicklerforen, <a href=\"https:\/\/servethehome.com\" rel=\"noopener\" target=\"_blank\">servethehome.com<\/a>, <a href=\"https:\/\/storagereview.com\" rel=\"noopener\" target=\"_blank\">storagereview.com<\/a>, <a href=\"https:\/\/notebookcheck.net\" rel=\"noopener\" target=\"_blank\">notebookcheck.net<\/a>, <a href=\"https:\/\/tomshardware.com\" rel=\"noopener\" target=\"_blank\">tomshardware.com<\/a><\/li>\n\n<\/ol>\n\n\n<div class=\"kk-star-ratings kksr-auto kksr-align-center kksr-valign-bottom\"\n    data-payload='{&quot;align&quot;:&quot;center&quot;,&quot;id&quot;:&quot;29363&quot;,&quot;slug&quot;:&quot;default&quot;,&quot;valign&quot;:&quot;bottom&quot;,&quot;ignore&quot;:&quot;&quot;,&quot;reference&quot;:&quot;auto&quot;,&quot;class&quot;:&quot;&quot;,&quot;count&quot;:&quot;0&quot;,&quot;legendonly&quot;:&quot;&quot;,&quot;readonly&quot;:&quot;&quot;,&quot;score&quot;:&quot;0&quot;,&quot;starsonly&quot;:&quot;&quot;,&quot;best&quot;:&quot;5&quot;,&quot;gap&quot;:&quot;5&quot;,&quot;greet&quot;:&quot;Rate this post&quot;,&quot;legend&quot;:&quot;0\\\/5 - (0 votes)&quot;,&quot;size&quot;:&quot;24&quot;,&quot;title&quot;:&quot;Lokale KI-Hardware 2026: So finden Sie den richtigen Rechner f\u00fcr LLMs zu Hause&quot;,&quot;width&quot;:&quot;0&quot;,&quot;_legend&quot;:&quot;{score}\\\/{best} - ({count} {votes})&quot;,&quot;font_factor&quot;:&quot;1.25&quot;}'>\n            \n<div class=\"kksr-stars\">\n    \n<div class=\"kksr-stars-inactive\">\n            <div class=\"kksr-star\" data-star=\"1\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"2\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"3\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"4\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" data-star=\"5\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n    <\/div>\n    \n<div class=\"kksr-stars-active\" style=\"width: 0px;\">\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n            <div class=\"kksr-star\" style=\"padding-right: 5px\">\n            \n\n<div class=\"kksr-icon\" style=\"width: 24px; height: 24px;\"><\/div>\n        <\/div>\n    <\/div>\n<\/div>\n                \n\n<div class=\"kksr-legend\" style=\"font-size: 19.2px;\">\n            <span class=\"kksr-muted\">Rate this post<\/span>\n    <\/div>\n    <\/div>\n","protected":false},"excerpt":{"rendered":"<p>F\u00fcr lokale Sprachmodelle z\u00e4hlen vor allem die Speichermenge und die Speicherbandbreite, nicht CPU oder NPU. Der Ratgeber vergleicht aktuelle Hardware vom Einstieg bis zur Team-Workstation mit belegten Messwerten.<\/p>\n","protected":false},"author":1,"featured_media":29362,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_kad_blocks_custom_css":"","_kad_blocks_head_custom_js":"","_kad_blocks_body_custom_js":"","_kad_blocks_footer_custom_js":"","_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","_wrc_toc":"on","_wrc_buttons_enabled":false,"_wrc_buttons":[],"hide-affiliate-disclaimer":"","_wrc_hide_banners":"","footnotes":""},"categories":[202,194,202,194],"tags":[],"class_list":["post-29363","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-anweisungen","category-kunstliche-intelligenz-ki"],"taxonomy_info":{"category":[{"value":202,"label":"Anweisungen"},{"value":194,"label":"K\u00fcnstliche Intelligenz (KI)"},{"value":202,"label":"Anweisungen"},{"value":194,"label":"K\u00fcnstliche Intelligenz (KI)"}]},"featured_image_src_large":["https:\/\/www.websiteradar.net\/wp-content\/uploads\/2026\/10\/B3-18617-2-1024x585.png",1024,585,true],"author_info":{"display_name":"Tom\u00e1\u0161 Mahr\u00edk","author_link":"https:\/\/www.websiteradar.net\/de\/author\/maho125\/"},"comment_info":0,"category_info":[{"term_id":202,"name":"Anweisungen","slug":"anweisungen","term_group":0,"term_taxonomy_id":202,"taxonomy":"category","description":"","parent":0,"count":2,"filter":"raw","cat_ID":202,"category_count":2,"category_description":"","cat_name":"Anweisungen","category_nicename":"anweisungen","category_parent":0},{"term_id":194,"name":"K\u00fcnstliche Intelligenz (KI)","slug":"kunstliche-intelligenz-ki","term_group":0,"term_taxonomy_id":194,"taxonomy":"category","description":"","parent":0,"count":3,"filter":"raw","cat_ID":194,"category_count":3,"category_description":"","cat_name":"K\u00fcnstliche Intelligenz (KI)","category_nicename":"kunstliche-intelligenz-ki","category_parent":0},{"term_id":202,"name":"Anweisungen","slug":"anweisungen","term_group":0,"term_taxonomy_id":202,"taxonomy":"category","description":"","parent":0,"count":2,"filter":"raw","cat_ID":202,"category_count":2,"category_description":"","cat_name":"Anweisungen","category_nicename":"anweisungen","category_parent":0},{"term_id":194,"name":"K\u00fcnstliche Intelligenz (KI)","slug":"kunstliche-intelligenz-ki","term_group":0,"term_taxonomy_id":194,"taxonomy":"category","description":"","parent":0,"count":3,"filter":"raw","cat_ID":194,"category_count":3,"category_description":"","cat_name":"K\u00fcnstliche Intelligenz (KI)","category_nicename":"kunstliche-intelligenz-ki","category_parent":0}],"tag_info":false,"_links":{"self":[{"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/posts\/29363","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/comments?post=29363"}],"version-history":[{"count":2,"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/posts\/29363\/revisions"}],"predecessor-version":[{"id":29399,"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/posts\/29363\/revisions\/29399"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/media\/29362"}],"wp:attachment":[{"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/media?parent=29363"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/categories?post=29363"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.websiteradar.net\/de\/wp-json\/wp\/v2\/tags?post=29363"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}