GEEKOM AGENT 4N: Vier Mini-PCs als lokaler KI-Cluster für DeepSeek V4 Flash

Auf der IFA 2026 in Berlin zeigt der Mini-PC-Hersteller GEEKOM mit dem AGENT 4N ein ungewöhnliches Konzept: Statt eines klassischen Servers für den lokalen Betrieb großer Sprachmodelle verbindet GEEKOM vier seiner A9-Mega-Mini-PCs per USB4 zu einer verteilten KI-Plattform. Auf dem Verbund läuft eine angepasste Version von DeepSeek V4 Flash. Für Unternehmen, die lokale KI-Infrastruktur ohne klassisches Rechenzentrum aufbauen wollen, ist das ein interessanter Ansatz, auch wenn einige Details wie der Preis noch offen sind.

Die Hardware im Detail

Jeder der vier A9-Mega-Mini-PCs basiert auf einem AMD Ryzen AI Max+ 395 mit 16 Zen-5-Kernen und 32 Threads, ergänzt um eine integrierte Radeon 8060S auf Basis von RDNA 3.5 mit 40 Compute Units. Jedes Gerät verfügt über bis zu 128 GB LPDDR5X-Arbeitsspeicher, in der von GEEKOM gezeigten Vier-Geräte-Konfiguration ergibt das insgesamt 512 GB verteilten Speicher. Wichtig für das Verständnis: Das ist kein gemeinsamer Speicherpool, sondern das KI-Modell wird auf die vier Knoten verteilt ausgeführt.

Verteilte Inferenz statt Server-Rack

Die vier Mini-PCs kommunizieren über USB4, ein spezieller Hochgeschwindigkeits-Switch oder ein klassischer Rechenzentrums-Server ist laut GEEKOM nicht erforderlich. Ubuntu, AMD ROCm und die Inferenz-Software DwarfStar übernehmen die Verteilung des Modells auf die einzelnen Geräte. Anwendungen greifen anschließend über eine OpenAI-kompatible Schnittstelle auf das Modell zu, was die Integration in bestehende Toolchains vereinfacht, die bereits auf die OpenAI-API ausgelegt sind. Jeder A9 Mega kann dabei weiterhin auch einzeln betrieben werden. Unternehmen können also mit einem oder zwei Geräten starten und die Plattform bei wachsendem Bedarf schrittweise auf vier Knoten erweitern, statt sofort in eine große Serverinfrastruktur investieren zu müssen.

Performance und Kontextgröße

Bei einer Anfrage gleichzeitig (Single-Concurrency) erreichte der Verbund laut GEEKOM rund 14,61 Token pro Sekunde bei einer P95-Zeit bis zum ersten Token von etwa 0,42 Sekunden, gemessen bei Prompt-Größen von 32 und 128 Token. Diese Werte gelten für die konkret getesteten Bedingungen und lassen sich nicht ohne Weiteres auf jede Workload übertragen, insbesondere nicht auf Mehrbenutzer- Szenarien mit paralleler Anfragenlast. Bemerkenswert ist die demonstrierte Kontextgröße von bis zu 250.000 Token, die für lange Dokumente, größere Codebasen und mehrstufige Aufgaben ausgelegt ist. Auf Produktbildern von GEEKOM ist unter anderem der KI-Agent Hermes Agent zu sehen, der Werkzeuge, Richtlinien, Protokolle und abgerufene Informationen verarbeitet, bevor er eine Aufgabe ausführt.

Einsatzszenarien für Unternehmen

Der entscheidende Vorteil gegenüber Cloud-KI-Diensten liegt in der vollständig lokalen Verarbeitung: Prompts, Dokumente, Quellcode, Zugangsdaten und Zwischenergebnisse verlassen das eigene Netzwerk nicht. Für Unternehmen mit vertraulichen Informationen, etwa Kanzleien, Beratungen oder Firmen mit strengen internen Compliance-Vorgaben, kann das ein relevanter Faktor sein. Als mögliche Einsatzbereiche nennt GEEKOM interne Wissensassistenten, die Richtlinien, Verträge, Handbücher oder Berichte durchsuchen, Quellcode-Analyse, lokale RAG-Systeme (Retrieval-Augmented Generation), Dokumentenprüfungen und kontrollierte Automatisierung von Arbeitsabläufen.

Worauf Einkäufer vor der Anschaffung achten sollten

1. Herstellerangaben zur Performance (Token/Sekunde, Latenz) immer mit der eigenen realistischen Workload nachtesten, nicht nur mit Single-Concurrency-Demowerten planen.
2. Skalierungspfad prüfen: Lässt sich später wirklich von einem auf vier Knoten erweitern, ohne bestehende Konfiguration neu aufzusetzen?
3. Stromverbrauch und Kühlung der Vier-Geräte-Konfiguration im Dauerbetrieb einplanen, nicht nur die Anschaffungskosten.
4. Support- und Garantiebedingungen für den verteilten Cluster-Betrieb klären, nicht nur für den Einzelbetrieb eines Mini-PCs.
5. Software-Update-Zyklen für Ubuntu, AMD ROCm und DwarfStar in die eigene Patch-Routine aufnehmen.
6. Datenschutz-Folgenabschätzung durchführen, auch bei lokalem Betrieb, sobald personenbezogene Daten verarbeitet werden.
7. Backup-Konzept für Modelle, Konfigurationen und generierte Daten des Clusters festlegen.
8. Netzwerksegmentierung des KI-Clusters planen, damit ein kompromittierter Knoten nicht automatisch Zugriff auf das gesamte Firmennetz hat.

Einordnung für den Mittelstand

Für kleine und mittlere Unternehmen ist die Ankündigung vor allem als Signal interessant: Lokale KI-Infrastruktur wird zunehmend erschwinglicher und einfacher aufzubauen, ohne dass ein klassisches Rechenzentrum oder teure Enterprise-GPU-Server nötig sind. Wichtig bei der Bewertung solcher Systeme bleibt aber, die vom Hersteller genannten Performance-Zahlen kritisch zu prüfen und nach Möglichkeit einen eigenen Testlauf mit realistischer Workload durchzuführen, bevor eine Kaufentscheidung fällt. Auch bei lokal betriebenen Modellen gelten die üblichen Datenschutz- und Absicherungsregeln: Ein lokal laufendes Modell ersetzt keine Zugriffskontrolle, Verschlüsselung oder Netzwerksegmentierung für die Systeme, auf denen es betrieben wird.

Passende Anleitungen auf S-EDV

1. DeepSeek-V4-Flash: Was die neue Version 0731 wirklich bringt
2. Lokale KI datenschutzkonform betreiben: DSGVO-Checkliste für On-Premise-LLM-Deployments

Quellen

1. Deskmodder: GEEKOM AGENT 4N - Vier A9 Mega bilden einen lokalen KI Cluster
2. Guslok: GEEKOM combines four A9 Mega Mini PCs to run DeepSeek V4 Flash locally
3. teltarif.de: Geekom baut aus vier Mini-PCs ein KI-Kraftpaket