AUSWAHL DER RICHTIGEN DEEP LEARNING HARDWARE
Das wichtigste Auswahlkriterium für den richtigen Deep Learning Server oder Deep Learning Workstation ist die benötigte Rechenleistung für die zu trainierenden neuronalen Netze. Für das Trainieren von neuronalen Netzen sind sehr viele Rechendurchgänge, auch Iterationen genannt, notwending. Die Anzahl der nötigen Iterationen, die größe und Art der zu trainierenden Daten (z.B. Anzahl der Bilder und Auflösung und Größe der Bilder für Computer Vision) und die Tiefe des neuronalen Netzes, also die Anzahl der Ebenen und Layer im neuronalen Netz sind ausschlaggebend für die benötigte Rechenleistung.
Ausschlaggebend für die benötigte Rechenleistung:
-Komplexität des neuronalen Netzes - Anzahl an künstlichen Neuronen, Tiefe / Anzahl Layer des neuronalen Netzes
-Anzahl der Iterationen - Anzahl der Durchläufe des neuronalen Netzes zum trainieren des Deep Learning Netzes
-Datenmenge - Menge, Art und Geröße der Datenelemente
Um die immense Rechenleistung für das Training von neuronalen Netzen zur Verfügung zu stellen wäre ein großes Cluster bestehend aus mehreren CPU Nodes nötig. Glücklicherweise können fast alle Deep Learning Frameworks durch Grafikkarten, auch GPUs genannt, deutlich beschleunigt werden. So stellt z.B. eine GPU Workstation mit vier NVIDIA GPUs nahezu die Rechenleistung eines ganzen CPU Cluster bestehend aus 10 Nodes zur Verfügung.