Es gibt unzählige KI-fähige Computer, deren KI-Leistung in TOPS-Einheiten gemessen wird. Wenn Ihnen das aber nur wie eine weitere erfundene Abkürzung vorkommt oder wie etwas, das Marketingabteilungen neben GHz-Angaben und dem Label „KI-fähig“ auf einen Chip drucken können, würde ich es Ihnen nicht verdenken.
Als Microsoft begann, die Kriterien für ein modernes Windows-KI-Gerät festzulegen, prahlten alle mit 45 TOPS, als ginge es um einen neuen Wettlauf um die schnellste Zeit. Es ist eines von Spezifikationen, die Sie beim Kauf eines neuen KI-gestützten Computers beachten solltenAber solange man nicht wirklich versteht, was es bedeutet, erkennt man nicht, wie wichtig es ist.
Schnelle Links
Was misst TOPS eigentlich?
Billionen von Operationen pro Sekunde, einfach erklärt
TOPS steht für Billionen von Operationen pro Sekunde und ist eine Kennzahl für den Durchsatz, die grob beschreibt, wie viele einfache Berechnungen ein Chip pro Sekunde durchführen kann. Im Bereich der künstlichen Intelligenz (KI) wird TOPS verwendet, um die Leistung von Inferenzprozessen mit geringer Präzision (oft INT8) zu beschreiben, da viele KI-Anwendungen in Echtzeit mit dieser Präzision effizient arbeiten, sobald die Modelle für die Entwicklung optimiert sind.
Am einfachsten lässt sich das verstehen, wenn man TOPS mit der KI-Leistung gleichsetzt, nicht unbedingt mit der tatsächlichen Geschwindigkeit. Eine NPU mit 45 TOPS könnte theoretisch unter idealen Bedingungen 45 Billionen solcher Operationen pro Sekunde ausführen, die tatsächliche Leistung hängt jedoch auch von der Speicherbandbreite, der Programmlaufzeit, den Treibern und der Ausrichtung der Anwendungen auf den Beschleuniger ab. Trotzdem dient TOPS weiterhin als Orientierungshilfe, da es angibt, für welche KI-Workloads das Gerät ausgelegt ist.
40 TOPS ist das Minimum, 45 ist der Idealwert.
40 funktioniert auf dem Papier, aber 45 lässt mehr Raum zum Atmen.
Der Grund, warum TOPS sich von einer unbedeutenden Information zu einem zentralen Marketingargument entwickelt hat, liegt darin, dass die nächste Generation von KI-Funktionen in Windows lokal auf einer dedizierten neuronalen Engine ausgeführt wird, anstatt auf die Cloud angewiesen zu sein. Diese Engine ist in Form der NPU (Neural Processing Unit) in Ihrem Computer integriert.
Es handelt sich um einen separaten Chip, der unabhängig von CPU und GPU für die Ausführung von KI-Workloads zuständig ist. NPUs sind für Matrix- und Tensorrechnungen in neuronalen Netzen konzipiert, aber auf Effizienz optimiert, sodass sie kontinuierlich laufen können, ohne die Akkulaufzeit oder die Wärmeentwicklung zu beeinträchtigen.
Microsofts Copilot+ PC-Kampagne setzt neue Maßstäbe: Diese Geräte sollen über eine NPU verfügen, die einen Mindestleistungsstandard von über 40 TOPS erfüllt. Daher wird die Zahl 40 TOPS bei Laptop-Vorstellungen und in Tutorials immer wieder erwähnt. Es handelt sich dabei nicht nur um Angeberei, sondern um einen Maßstab für eine bestimmte Klasse von KI-Funktionen in Windows.
Warum benötigen Sie also 45 TOPS statt 40? Weil niemand das Minimum kaufen möchte. Ein Wert knapp über 45 TOPS bietet Herstellern (und Ihnen) einen Sicherheitsabstand, sodass KI-Funktionen auch unter Berücksichtigung anderer Faktoren wie CPU, GPU und RAM, die je nach Gerät variieren können, optimal funktionieren. Mit zunehmendem Funktionsumfang, beispielsweise Live-Übersetzung während der Anrufbereinigung mit nativen Assistentenfunktionen, steigt der Bedarf an KI-Rechenleistung. Zudem schützt dies vor dem Umstand, dass die KI-Auslastung tendenziell mit der Zeit zunimmt, anstatt abzunehmen.
Warum gewinnt Ihre Grafikkarte (GPU) nicht automatisch?
TFLOPS-Zahlen können irreführend sein.
Wer schon jahrelang mit Computern arbeitet und mit seiner Grafikprozessoreinheit (GPU) vertraut ist, weiß, dass diese durchaus anspruchsvolle KI-Workloads bewältigen kann. Moderne GPUs zeichnen sich durch einen beeindruckenden KI-Durchsatz aus, der oft in ähnlichen Kennzahlen wie TOPS für Tensoroperationen beschrieben wird.
Das Problem ist, dass sich diese Zahlen nicht automatisch auf das von Microsoft angestrebte KI-Erlebnis am PC übertragen lassen. Wenn Ihre dedizierte GPU ständig aktiv ist und KI-Funktionen im Hintergrund ausführt, sind Stromverbrauch und Akkulaufzeit extrem hoch. Die Neural Processing Unit (NPU) ist stattdessen als permanent aktive, stromsparende Einheit für KI-Hintergrundfunktionen konzipiert. Deshalb ist es wichtig zu verstehen, Der Unterschied zwischen einer neuronalen Verarbeitungseinheit (NPU) und einer Grafikverarbeitungseinheit (GPU).
Hier entsteht auch die Verwirrung zwischen TFLOPS und TOPS. TFLOPS bezeichnet typischerweise den Durchsatz von Gleitkommaoperationen, der für Grafikberechnungen und viele rechenintensive Anwendungen entscheidend ist, während TOPS häufig den Durchsatz bei der Inferenz von Ganzzahl-/Zeitmustern mit geringer Genauigkeit beschreibt. Die beiden Werte sind nicht austauschbar, und man kann nicht zuverlässig X TFLOPS auf einem Rechner mit Y TOPS auf einem anderen vergleichen und daraus einen eindeutigen Gewinner ableiten.
Vereinfacht gesagt, kann Ihre dedizierte Grafikprozessoreinheit (GPU) der Geschwindigkeitsläufer für große KI-Aufgaben sein, aber die neuronale Verarbeitungseinheit (NPU) ist der Marathonläufer, der dafür sorgt, dass sich alltägliche KI-Aufgaben nativ, leise, stabil und lokal anfühlen.
Wie man ein echtes Gerät mit 45 TOPS-Leistung kauft
Prüfen Sie die Spezifikationen der NPU, nicht nur die der CPU und GPU.
Bei der Bewertung eines PCs im Jahr 2026 ist der TOPS-Wert zwar ein guter Anhaltspunkt, sollte aber nicht das einzige Kriterium sein. Achten Sie darauf, dass es sich bei dem Wert, den Sie betrachten, um die TOPS-Bewertung der Neural Processing Unit (NPU) handelt und nicht um eine Marketing-Mischung aus CPU-, GPU- und NPU-Werten. Die Vorhersagen des Copilot+-Modells basieren ausschließlich auf dem Vorhandensein und den Fähigkeiten dieser dedizierten NPU. Erwarten Sie außerdem nicht zu viel: TOPS ist ein Spitzenwert, und die tatsächliche Leistung kann ebenso stark von der Softwareunterstützung wie von der reinen Hardware-Leistung abhängen.
Lange Zeit kauften wir PCs für das, was wir aktiv damit machten: Surfen, Bearbeiten, Spielen, Programmieren, Exportieren von Dateien usw. Heute kaufen wir PCs auch für das, was sie unauffällig im Hintergrund erledigen können: Kopieren, Übersetzen, Zusammenfassen, Audio- und Videobearbeitung sowie die Nutzung von Assistenten direkt auf dem Gerät, ohne auf die Cloud angewiesen zu sein.
In dieser Welt ist 45 TOPS keine Magie – es ist einfach eine praktische Waage mit etwas zusätzlichem Spielraum über die Grundausstattung hinaus. Machen Sie sich keine Sorgen um KI-gestützte PCs.Aber es ist nun mal da, und wenn Sie Ihren nächsten PC jahrelang behalten wollen, ist dieser zusätzliche Speicherplatz genau die Art von langweiligem technischen Detail in einem Datenblatt, das auf lange Sicht von Bedeutung sein wird.
