9:06125B-KI auf einer 12-GB-GPU: Wo steckt der Rest? | Strata & Qwen3.8-Flash-Next
Wie Strata ein großes MoE-Modell auf GPU, CPU, RAM und SSD verteilt – und warum wenig VRAM nicht wenig Gesamtspeicher bedeutet.
Video & ErklärungThemenwelt
Modelle, Tokens, Kontext. Was KI kann und wie sie funktioniert.
9:06Wie Strata ein großes MoE-Modell auf GPU, CPU, RAM und SSD verteilt – und warum wenig VRAM nicht wenig Gesamtspeicher bedeutet.
Video & Erklärung
6:18Anthropics Versuche zur Selbstreplikation eingeordnet: verteilte Inferenz, Agenten und die Grenzen eines vereinfachten Labors.
Video & Erklärung
5:37Wie ein Sprachmodell Text in Tokens zerlegt und Antworten Schritt für Schritt erzeugt – und warum flüssige Sprache keine Wahrheitsprüfung ist.
Video & Erklärung
11:06Modell, Programm, Tools und Zustand: Eine Rabattregel zeigt, wie ein KI-Agent handelt, Ergebnisse prüft und an Grenzen stößt.
Video & Erklärung