Zum Hauptinhalt springen

Wie GPU und CPU zusammenspielen

Advanced Micro Devices GmbH
Firma: Advanced Micro Devices GmbH
Sprache: Deutsch
Größe: 2 Seiten
Erscheinungsjahr: 2024
Besonderheit: registrierungsfrei
Jetzt
runterladen!

Gratis-Inhalt

Grafikprozessoren (GPUs) sind für das Training und die Anwendung von KI-Modellen unverzichtbar. Die hohen Investitionen in die teuren Beschleuniger sind jedoch nur dann gerechtfertigt, wenn die Serverplattform sie optimal unterstützt. Wie das gelingt und worauf Sie bei der Auswahl geeigneter Server-CPUs achten sollten, zeigt dieses Dokument.

Inhalt:

KI-Systeme profitieren stark von einer parallelen Verarbeitung der Rechenoperationen. Grafikprozessoren (Graphic Processor Unit, GPU) sind traditionell für solche Parallelberechnungen ausgelegt, da sie beispielsweise für das Rendern von Lichteffekten in Videospielen benötigt werden. Mit den rasanten Entwicklungen im Bereich der künstlichen Intelligenz ist die Nachfrage nach leistungsfähigen GPUs daher stark gestiegen. Aus ihnen haben sich außerdem dedizierte KI-Beschleuniger entwickelt, die auf Rechenmodule für typische Grafikaufgaben wie Rendering oder Shading verzichten.

GPUs und KI-Beschleuniger können ihre volle Leistung aber nur in Systemen entfalten, in denen auch der Hauptprozessor (Central Processing Unit, CPU) für KI-Aufgaben optimiert ist. Dieses Dokument zeigt Ihnen, wie eine Server-CPU KI-Beschleuniger optimal unterstützt und worauf Sie bei der Auswahl eines CPU-Modells achten sollten.

Lesen Sie unter anderem:

  • Welche Rolle die Taktfrequenz und die Anzahl der Rechenkerne für die Gesamtleistung des KI-Systems spielen.
  • Warum Sie einen möglichst großen Cache wählen sollten.
  • Wie die Speicherbandbreite zum Bottleneck werden kann.

Originalauszug aus dem Dokument:

1 HOHE FREQUENZ UND KERNZAHL

Dank der hohen Frequenz kann die CPU Anweisungen schneller verarbeiten, was für die Bearbeitung umfangreicher Datenaufgaben entscheidend ist. Zudem vereinfacht sie eine schnellere Nachverarbeitung der Ergebnisse, die vom KI-Modell generiert wurden.  

EPYC 9575F der 5. Generation (64 Kerne) wurde speziell als KI-Host-Knotenprozessor mit hoher Performance entwickelt, der mit einer Geschwindigkeit von bis zu 5 GHz ausgeführt werden kann. Als GPU-Host-Knoten führt 9575F (64 Kerne) die GPU-System-Performance ~20 % schneller aus als Intel Xeon 8592 (64 Kerne) in einer Llama3.1-70B Inference Benchmark bei FP8-Genauigkeit (2P-Server mit jeweils 8 GPUs)

KI-Systeme optimal einsetzen

Wie GPU und CPU zusammenspielen

Inhaltstyp: Whitepaper
Advanced Micro Devices GmbH