Skalierbare KI/ML-Infrastrukturen mit NVIDIA Datacenter-GPUs, Kubernetes und OpenShift - Seminar / Kurs von GFU Cyrus AG

Inhalte

  • Skalierbare KI/ML Infrastrukturen - Foundation
    • Skalierbare KI/ML Cluster - Übersicht: zwischen Hype und Realität
    • Welche Unternehmen und Bereiche können von ML profitieren
    • ML-Cluster-Stack: Architektur und Aufbau von GPU-Accelerated Clustern im Überblick
    • Cloud vs. On-Prem: verfügbare Technologie-Stacks, Aufwand für Setup und Betrieb, Anschaffungs-/Betriebs- Kosten und ROI im Überblick
    • Hybrid-Lösungen für Kosteneffizienz: Pay-per-Use Cloud-Training, sicherer Produktivbetrieb im RZ 
    • Überblick: Involvierte Stacks, Lizenzmodelle und -kosten
  • GPU Accelerated ML Cluster: Core Concepts
    • Architektur und Arbeitsweise von containerisierten GPU Clustern im Detail
    • Datacenter GPUs und Technologien: NVIDIA vs. AMD vs. Intel 
    • Pure TPUs vs. GPUs
    • Infrastruktur: Virtualisiert, containerisiert - oder besser nicht?
    • Bare Metal vs. VM: Performance vs. IaaS/IaC -Automation und Autoscaling
    • Betrieb von GPUs Nodes in vSphere Enterprise Umgebungen 
    • NVIDIA Certified Server 
    • NVIDIA Datacenter GPUs nach Einsatzzweck 
    • NVIDIA MIG-capable Ampere-Cards: Flexibilität und Multi-Tenancy 
    • NVIDIA DGX: Hardware-Komplettlösungen für Unternehmen
    • MIG vs. vGPU Mode
    • Komponenten des NVIDIA AI Enterprise Stacks
  • GPU Accelerated ML Cluster: Advanced Concepts
    • GPU-Nodes in Container-Plattformen: OpenShift vs. Vanilla Kubernetes vs. Tanzu
    • IaaS und IaC Best Practices für maximale GPU-Cluster-Automation
    • GPU-Node -Vollautomation mit NVIDIAs GPU-Operator-Stack
    • GPU-Connect local: NVLink und NVSwitch
    • GPU-Connect remote: GPUDirect RDMA und Network-Operator
    • Überblick: KubeFlow und OpenDataHub
    • The Road Ahead 
  • Skalierbare KI/ML Infrastrukturen - Foundation
    • Skalierbare KI/ML Cluster - Übersicht: zwischen Hype und Realität
    • Welche Unternehmen und Bereiche können von ML profitieren
    • ML-Cluster-Stack: Architektur ...
Mehr Informationen >>

Lernziele

Der Kurs vermittelt wichtige Konzepte und Best Practices rund um Planung, Implementierung und Betrieb von (auto-)skalierbaren KI/ML Clustern mit NVIDIA GPUs auf Hypervisoren von VMware (vSphere), AWS und GCP, containerisiert mit Kubernetes und OpenShift. Dabei wird der Fokus auf langfristig planbaren und kosteneffizienten Betrieb mithilfe maximaler Automation (IaaS/IaC/Operatoren) gesetzt. Zudem werden die Vor- und Nachteile der jeweiligen Implementierungsvarianten beleuchtet. Im Rahmen der Schulung kann auch, soweit technisch, zeitlich und thematisch möglich, auf konkrete Problemstellungen der Teilnehmenden eingegangen werden.
Der Kurs vermittelt wichtige Konzepte und Best Practices rund um Planung, Implementierung und Betrieb von (auto-)skalierbaren KI/ML Clustern mit NVIDIA GPUs auf Hypervisoren von VMware (vSphere), AWS u ... Mehr Informationen >>

Zielgruppen

Dieser Kurs richtet sich an Entscheider:innen, Architekten, Projektleitende und Admins/DevOps Teams aus dem Linux-Umfeld, die sich grundlegendes Verständnis über Architektur, Planung und Betrieb von (auto-)skalierbaren NVIDIA GPU-Accelerated Container Clustern (Kubernetes / OpenShift) als Plattform zum Betrieb von KI/ML Systemen aneignen möchten. Der Fokus liegt dabei ausdrücklich auf Operations/Infrastruktur, nicht auf Dev-spezifischen Belangen /ML-Coding. Die Teilnehmenden sollten folgende Vorkenntnisse besitzen:  Grundlegende theoretische Vorkenntnisse im Bereich Container/Kubernetes, Virtualisierung und HA-Clustering sind hilfreich, aber nicht zwingend erforderlich.
Dieser Kurs richtet sich an Entscheider:innen, Architekten, Projektleitende und Admins/DevOps Teams aus dem Linux-Umfeld, die sich grundlegendes Verständnis über Architektur, Planung und Betrieb von ... Mehr Informationen >>

Termine und Orte

SG-Seminar-Nr.: 6262808

Anbieter-Seminar-Nr.: 2565

Termine

  • 04.05.2023

    Köln, DE

  • 04.10.2023

    Köln, DE

  • 23.11.2023

    Köln, DE

Seminare mit Termin haben Plätze verfügbar. Rechnung erfolgt durch Veranstalter. Für MwSt. Angabe auf den Termin klicken.

Jetzt buchen ›
Seminar merken ›

Semigator berücksichtigt

  • Frühbucher-Preise
  • Last-Minute-Preise
  • Gruppenkonditionen

und verfügt über Sonderkonditionen mit einigen Anbietern.

Der Anbieter ist für den Inhalt verantwortlich.

Veranstaltungsinformation

  • Seminar / Kurs
  • Deutsch
    • Zertifikat
  • 7 h
  •  
  • Anbieterbewertung (43)

Ihre Vorteile mehr erfahren

  • Anbietervergleich von über 1.500 Seminaranbietern
  • Vollständige Veranstaltungsinformationen
  • Schnellbuchung
  • Persönlicher Service