Der Zusammenhang.
Die Größe eines Modells und der Speicher einer Grafikkarte sind unterschiedliche Größen. Strata verteilt die Arbeit von Qwen3.8-Flash-Next über mehrere Teile des Rechners. Der entscheidende Zusammenhang: Bei einem Mixture-of-Experts-Modell wird pro Token nur ein Teil der Experten verwendet, gespeichert werden müssen trotzdem alle Gewichte.
Lernziele
- VRAM, RAM und SSD beim lokalen Modellbetrieb auseinanderhalten.
- Quantisierung und Mixture of Experts als unterschiedliche Mechanismen erklären.
- Entwicklerangaben und Praxisbeobachtungen von vergleichbaren Benchmarks unterscheiden.
Aktiv ist nicht dasselbe wie gespeichert
125 Milliarden Parameter würden bei 16 Bit je Zahl rechnerisch rund 250 Milliarden Byte beanspruchen. Quantisierung verkleinert ihre Darstellung. Mixture of Experts reduziert dagegen, welche Teile pro Token rechnen. Beide Verfahren helfen an verschiedenen Stellen; keines bedeutet, dass die übrigen Parameter verschwinden.
Der Rechner als Speicherhierarchie
Im beschriebenen Strata-Aufbau hält die GPU gemeinsame Modellteile und einen Cache häufig benötigter Experten. Weitere Experten liegen im RAM und können durch die CPU verarbeitet werden. Die SSD übernimmt im Normalmodus die Nachschlagetabelle. Entscheidend sind deshalb neben dem VRAM auch Arbeitsspeicher, Speicherbandbreite, Prozessor und die Verbindung zwischen den Komponenten.
Welche Leistungsangabe beantwortet welche Frage?
Die Anforderungen und Geschwindigkeiten im Video sind zeitgebundene Entwicklerangaben beziehungsweise eigene Praxisbeobachtungen des Kanals. Ein kurzer Schreibdurchsatz misst weder die Zeit bis zum ersten Token noch die Qualität der Antworten. Unterschiedliche Rechner und Kontexte lassen sich damit nicht unmittelbar vergleichen. Vor einer Hardwareentscheidung müssen Modellfassung, Kontextlänge und die eigene Aufgabe gemeinsam betrachtet werden.
Einordnung & Grenzen
Die Erklärung bezieht sich auf den im Video dokumentierten Projektstand vom 13.10.2026. Sie ist keine Installationsanleitung oder unabhängige Benchmarkreihe. Die Antwortqualität stark quantisierter Fassungen wurde damit nicht bewertet.
Quellen & Weiterlesen
Dieser Begleittext wurde anhand der öffentlichen Videobeschreibung redaktionell ausgearbeitet; er ist kein Transkript. Die folgenden Quellen sind auch im Originalvideo angegeben.
