Prozessoren mit dedizierten Beschleunigungschips für KI-Anwendungen ermöglichen es, komplexe Security-Aufgaben lokal auszuführen, die bisher in die Cloud ausgelagert werden mussten. Erste Tests zeigen vielversprechende Einsatzmöglichkeiten.
Die Entwicklung und das Training von Machine-Learning-Modellen und anderen Formen der künstlichen Intelligenz (KI) erfolgen üblicherweise auf großen Server-Clustern, die mit leistungsfähigen KI-Beschleunigern wie Intel Gaudi ausgestattet sind. Auch die Anwendung der Modelle, das sogenannte Inferencing, ist anspruchsvoll und überfordert ältere PC-Hardware in der Regel. Inferencing-Workloads werden deshalb häufig in die Cloud ausgelagert. Lange Bearbeitungszeiten, eine zwingend notwendige Internetverbindung und Datenschutzrisiken sind die Folge. Bei leistungsfähigeren PCs können KI-Aufgaben auch auf den Grafikprozessor (Graphic Processing Unit, GPU) ausgelagert werden. Das führt allerdings in der Regel zu einem höheren Energieverbrauch und mehr Abwärme. Die Akkulaufzeit von Laptops sinkt, die Lüfter springen häufiger an. Auch das ist also keine Ideallösung.
Hardwarehersteller wie Intel arbeiten deshalb daran, KI-Beschleuniger in ihre Plattformen zu integrieren, die Hauptprozessor (Central Processing Unit, CPU) und GPU von typischen Inferencing-Workloads wie Spracherkennung, Bildanalyse oder die Anwendung generativer KI entlasten. Diese Chips arbeiten sehr energieeffizient, was sich in längeren Akkulaufzeiten und weniger Abwärme niederschlägt. Ein solcher Chip, Neural Processing Unit (NPU) genannt, ist erstmals in den Core Ultra Prozessoren verfügbar, die zunehmend auch in professionellen PCs und Notebooks eingesetzt werden. Diese neue Geräteklasse wird auch als „KI-PC“ bezeichnet. Microsoft verwendet für speziell auf KI-Anwendungen optimierte Endgeräte den Begriff „Copilot+ PC“ .
Mit dem KI-PC zu mehr Sicherheit
Die Beschleunigungsfunktionen der NPU machen KI-Funktionen in zahlreichen Anwendungen schneller – oder überhaupt erst möglich. Beispiele finden sich im Artikel „KI lokal nutzen: Hard- und Softwarehersteller treiben Einsatz auf PCs und Laptops voran“. Auch die IT-Sicherheit kann von den neuen Fähigkeiten der Core Ultra Prozessoren profitieren, wie eine Fallstudie des Security-Spezialisten CrowdStrike zeigt. Darin haben die Experten untersucht, wie sich die NPU für die Ausführung gefalteter neuronaler Netze (Convolutional Neural Networks, CNN) nutzen lässt. CNNs spielen eine wichtige Rolle für die Erkennung bösartiger Skripte, die für dateilose Angriffe verwendet werden. Cyberkriminelle installieren dabei keinen Schadcode, sondern nutzen Softwarelücken (Exploits) oder legitime Tools wie Powershell, um die Systeme des Opfers zu kompromittieren und Daten zu stehlen. Dateilose Methoden kamen laut dem 2024 Global Threat Report von CrowdStrike im vergangenen Jahr bereits bei 75 Prozent aller Cyberangriffe zum Einsatz.
CNN-Modelle benötigen allerdings sehr viel Rechenleistung und lassen sich auf herkömmlichen Endgeräten nicht sinnvoll ausführen. Verdächtige Skripte werden daher zur Überprüfung in eine Cloud-Umgebung hochgeladen, was die Nutzung langsam und umständlich macht. Um die Leistungsfähigkeit der NPU zu testen, verwendeten die Security-Spezialisten ein Standard-CNN-Modell, das für die Erkennung bösartiger Skripte entwickelt wurde, und wandten es auf Testsystemen mit und ohne NPU-Unterstützung an. Im reinen CPU-Modus benötigte die Berechnung rund 20 Prozent der CPU-Kapazität, mit NPU-Unterstützung sank die CPU-Last auf weniger als ein Prozent, die Reaktionszeit verkürzte sich von zirka 86 ms auf rund 23 ms. Die Testergebnisse legen nahe, dass KI-PCs komplexe Analysen mithilfe von CNN-Modellen lokal auf dem Endgerät durchführen können. Eine Optimierung der Modelle für die NPU-Nutzung dürfte die Effizienz und Leistungsfähigkeit noch einmal deutlich steigern.
Ein weiteres Beispiel für den Einsatz der NPU in der IT-Sicherheit ist die Cluster- und Ähnlichkeitsanalyse von Merkmalsvektoren (Feature Vectors, FV). Sie wird unter anderem eingesetzt, um Malware-Trends zu erkennen, neue Bedrohungsgruppen zu identifizieren und Verschleierungsmethoden (Obfuscation) zu durchschauen, mit denen sich Malware vor der Erkennung durch signaturbasierte Sicherheitssoftware schützt.
Um die gesammelten Informationen darzustellen, können Merkmalsvektoren bis zu 10.000 Felder enthalten. Der Vergleich verschiedener FV-Sets ist deshalb aufwendig und belastet die CPU stark, was sich erheblich auf die Systemleistung und Akkulaufzeit eines Endgeräts auswirken kann. Sollen die Merkmalsvektoren stattdessen zur Analyse in eine Cloud-Umgebung geladen werden, sind große Datenmengen zu übertragen. Das benötigt viel Bandbreite und dauert lange.
Auch in diesem Fall lassen sich durch die Nutzung der NPU deutliche Fortschritte erzielen. Den Experten des Intel Threat Detection Technology (TDT)-Teams gelang es, durch ein auf der NPU ausgeführtes Deep-Learning-Modell die Anzahl der für das Clustering und die Ähnlichkeitsanalyse relevanten Vektorfelder von 5.000 auf 16 zu reduzieren. Die CPU-Belastung sank von 35 Prozent auf 0,5 Prozent, die Anzahl der pro Sekunde durchführbaren Inferencing-Berechnungen verdoppelte sich nahezu.
Fazit: KI-PCs sind ein Fortschritt für die IT-Sicherheit
Künstliche Intelligenz spielt schon heute eine wichtige Rolle in der Cyberabwehr. Ihre Bedeutung wird in Zukunft sicher noch zunehmen. Bislang mussten allerdings viele KI-basierte Sicherheitsmaßnahmen in die Cloud ausgelagert werden, da die Endgeräte für eine lokale Analyse nicht genügend Leistung bereitstellten. Das wird sich mit der zunehmenden Verbreitung von KI-PCs ändern, wie Tests mit den neuen Core Ultra Prozessoren zeigen. Anspruchsvolle und rechenintensive KI-Anwendungen wie die Berechnung von CNN-Modellen oder die Cluster- und Ähnlichkeitsanalyse von Merkmalsvektoren lassen sich durch die Nutzung der NPU stark beschleunigen, während gleichzeitig die Belastung der CPU auf weniger als ein Prozent sinkt.
Als Teil der vPro Plattform sind die Core Ultra Prozessoren in ein umfassendes Sicherheitskonzept eingebunden, das bereits bei der Hardware ansetzt. Schließlich nützt die beste KI-Security-Software nichts, wenn ein PC bereits auf Firmware- oder BIOS-Ebene kompromittiert wurde. Das in die vPro Plattform integrierte Intel Hardware Shield reduziert das Risiko solcher Angriffe, indem es beispielsweise den Arbeitsspeicher im BIOS gegen Firmware-Attacken sperrt und den Rechner während des Bootvorgangs vor Angriffen schützt. So sind KI-PCs vom Einschalten an geschützt und können ihre volle Leistungsfähigkeit entfalten.