Bitte wählen Sie die Bereiche, die Sie exportieren möchten:
Schulung Skalierbare KI/ML-Infrastrukturen mit NVIDIA Datacenter-GPUs, Kubernetes und OpenShift
Schulungsformen
Beschreibung
Allerdings ist der Weg von einem simplen PoC zu einer wirklich vollautomatisierten, hochskalierbaren und vor allem kosteneffizienten und unternehmenstauglichen KI/ML-Infrastruktur mit Datacenter-GPUs in der Cloud oder On-Premises kein einfacher.
Aktuelle, leistungsfähige und vollautomatisch skalierbare, GPU-beschleunigte Infrastrukturen benötigen sorgfältige Planung in den Bereichen GPU-Hardware, Virtualisierung und Containerisierung. Und das Know-How, um die maximale Vollautomation dieser KI/ML-Stacks, von der automatischen Node-Skalierung bis zur automatischen, Operator-gestützten Provisionierung der GPU-Nodes mit allen relevanten Drivern und Tools, in der Cloud oder On-Premises auch umsetzen zu können - und dabei vor allem auch LTS-Faktoren und Kosteneffizienz nicht aus dem Blick zu verlieren.
Finden Sie das richtige Kubernetes und Container-Orchestrierung Seminar aus unserem Portfolio.
Schulungsziel
Der Kurs vermittelt wichtige Konzepte und Best Practices rund um Planung, Implementierung und Betrieb von (auto-)skalierbaren KI/ML-Clustern mit NVIDIA Datacenter-GPUs auf Hypervisoren von VMware (vSphere), AWS und GCP, containerisiert mit Kubernetes und OpenShift.
Dabei wird der Fokus auf langfristig planbaren und kosteneffizienten Betrieb mithilfe maximaler Automation (IaaS/IaC/Operatoren) gesetzt. Zudem werden die Vor- und Nachteile der jeweiligen Implementierungsvarianten beleuchtet. Im Rahmen der Schulung kann auch, soweit technisch, zeitlich und thematisch möglich, auf konkrete Problemstellungen der Teilnehmer eingegangen werden.
Details
Wer teilnehmen sollte
Dieser Kurs richtet sich an Entscheider, Architekten, Projektleiter und Admins/DevOps Teams aus dem Linux-Umfeld, die sich grundlegendes Verständnis über Architektur, Planung und Betrieb von (auto-)skalierbaren NVIDIA GPU-Accelerated Container Clustern (Kubernetes / OpenShift) als Plattform zum Betrieb von KI/ML Systemen aneignen möchten. Der Fokus liegt dabei ausdrücklich auf Operations/Infrastruktur, nicht auf Dev-spezifischen Belangen /ML-Coding.
Die Teilnehmer sollten folgende Vorkenntnisse besitzen:
- Grundlegende theoretische Vorkenntnisse im Bereich Container/Kubernetes, Virtualisierung und HA-Clustering sind hilfreich, aber nicht zwingend erforderlich.
Ihre Schulung
Präsenz-Schulung | Online-Schulung |
---|---|
Lernmethode | |
Demo/Präsentation, Showcases, Fragerunde | |
Unterlagen | |
Seminarunterlagen oder Fachbuch inklusive. Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. | Seminarunterlagen oder Fachbuch inklusive (per Post). Das Fachbuch wählt der Trainer passend zum Seminar aus - Ihren individuellen Buch-Wunsch berücksichtigen wir auf Nachfrage gerne. |
Arbeitsplatz | |
|
|
Lernumgebung | |
Neu aufgesetzte Remote-Systeme für jeden Kurs in Abstimmung mit dem Seminarleiter, sodass Sie über ein perfektes Setup für die Durchführung aller praktischen Übungen verfügen. | |
Arbeitsmaterialien | |
Din A4 Block, Notizblock, Kugelschreiber, USB-Stick, Textmarker, Post-its | |
Teilnahmezertifikat | |
Die Teilnahmezertifikat inkl. Inhaltsverzeichnis wird Ihnen am Ende des Seminars ausgehändigt. | Die Teilnahmezertifikat inkl. Inhaltsverzeichnis wird Ihnen per Post zugesandt. |
Organisation
Präsenz-Schulung | Online-Schulung | |
---|---|---|
Teilnehmendenzahl | ||
min. 2 max. 10 Teilnehmer (Nur Seats) | ||
Garantierte Durchführung * | ||
Ab 2 Teilnehmenden | ||
Schulungszeiten | ||
| ||
Ort der Schulung | ||
GFU Schulungszentrum Am Grauen Stein 27 51105 Köln-Deutz oder online im Virtual Classroom oder europaweit bei Ihnen als Inhouse-Schulung Um ein optimales Raumklima zu gewährleisten, haben wir das Schulungszentrum mit 17 hochmodernen Trotec TAC V+ Luftreinigern ausgestattet. Diese innovative Filtertechnologie (H14 zertifiziert nach DIN EN1822) sorgt dafür, dass die Raumluft mehrfach pro Stunde umgewälzt wird und Schadstoffe zu 99.995% im HEPA-Filter abgeschieden und infektiöse Aerosole abgetötet werden. Zusätzlich sind alle Räume mit CO2-Ampeln ausgestattet, um jederzeit eine hervorragende Luftqualität sicherzustellen. | ||
Räumlichkeiten | ||
Helle und modern ausgestattete Räume mit perfekter Infrastruktur | Bequem aus dem Homeoffice von überall | |
All-Inclusive | ||
Frühstück, Snacks und Getränke ganztägig, Mittagessen im eigenen Restaurant, täglich 6 Menüs, auch vegetarisch | Eine Auswahl unserer Frühstücks-Snacks und Nervennahrungs-Highlights senden wir Ihnen mit den Seminarunterlagen per Post zu. | |
Barrierefreiheit | ||
Das GFU-Schulungszentrum (Am Grauen Stein 27) ist barrierefrei | - |
Kostenfreie Services
Präsenz-Schulung | Online-Schulung |
---|---|
|
|
Inhalt
- Ziele und Erwartungen der Teilnehmenden
- Klärung individueller Lernziele und Erwartungen, um das Seminar so praxisnah und relevant wie möglich zu gestalten
- Skalierbare KI/ML Infrastrukturen - Foundation
- Skalierbare KI/ML Cluster - Übersicht: zwischen Hype und Realität
- Welche Unternehmen und Bereiche können von autoskalierbaren KI/ML-Systemen profitieren
- KI/ML-Cluster-Stack: Architektur und Aufbau von GPU-Accelerated Clustern im Überblick
- Cloud vs. On-Prem: verfügbare Technologie-Stacks, Aufwand für Setup und Betrieb, Anschaffungs-/Betriebs- Kosten und ROI im Überblick
- Hybrid-Lösungen für Kosteneffizienz: Pay-per-Use Cloud-Training, sicherer Produktivbetrieb im RZ
- Überblick: Involvierte Stacks, Lizenzmodelle und -kosten
- GPU Accelerated ML Cluster: Core Concepts
- Architektur und Arbeitsweise von containerisierten GPU Clustern im Detail
- Datacenter GPUs und Technologien: NVIDIA vs. AMD vs. Intel
- 'Pure' TPUs vs. GPUs
- Infrastruktur: Virtualisiert, Containerisiert - oder besser nicht?
- Bare Metal vs. VM: Performance vs. IaaS/IaC -Automation und Autoscaling
- Betrieb von GPUs Nodes in vSphere Enterprise Umgebungen
- Hardware-Fragen: NVIDIA Certified Server
- Hardware-Fragen: NVIDIA Datacenter GPUs nach Einsatzzweck
- NVIDIA MIG-capable Ampere-Cards: Flexibilität und Multi-Tenancy
- NVIDIA DGX: Hardware-Komplettlösungen für Unternehmen
- MIG vs. vGPU Mode
- Komponenten des NVIDIA AI Enterprise Stacks
- GPU Accelerated ML Cluster: Advanced Concepts
- GPU-Nodes in Container-Plattformen: OpenShift vs. Vanilla Kubernetes
- IaaS und IaC Best Practices für maximale GPU-Cluster-Automation
- GPU-Node -Vollautomation mit NVIDIAs GPU-Operator-Stack
- GPU-Interconnect lokal: NVLink und NVSwitch
- GPU-Connect remote: GPUDirect RDMA und Network-Operator
- Überblick: KubeFlow, OpenDataHub und NVIDIAs AI Workspace Operator
- The Road Ahead
Buchungsmöglichkeiten
Online oder in Präsenz teilnehmen
Sie können sowohl Online als auch in Präsenz am Seminar teilnehmen. Klicken Sie bei Ihrer Buchung oder Anfrage einfach die entsprechende Option an.
Inhalte werden auf Wunsch an die Anforderungen Ihres Teams angepasst.
- Online, Präsenz oder Hybrid
- Komplette Lernumgebung in der Cloud mit Remote Zugriff
Fokus aufs Fachliche und maximaler Raum für individuelle Fragen.
- Online, Präsenz oder Hybrid
- Komplette Lernumgebung in der Cloud mit Remote Zugriff
Was bedeutet Offene Schulung und Inhouse Schulung?
Bei einer offenen Schulung stehen Ort und Termin vorab fest. Jeder Interessent kann eine offene Schulung buchen, daher treffen Teilnehmer aus verschiedenen Unternehmen aufeinander.
Inhouse Schulungen können auf Ihren individuellen Schulungsbedarf zugeschnitten werden. Sie bestimmen den Teilnehmerkreis, Termin und Schulungsort.
Ist eine Inhouse Schulung die richtige Wahl?
Bei einer Inhouse Schulung gehen wir auf die individuellen Bedürfnisse Ihres Unternehmens ein und decken den Schulungsbedarf direkt bei Ihnen im Unternehmen ab.
Das spart Zeit und Geld und sorgt für einen schnellen Wissenstransfer Ihrer Mitarbeiter.
Wer kümmert sich um die Technik bei Inhouse Schulungen?
Eine komplette Lernumgebung in der Cloud mit Remote Zugriff ist für uns selbstverständlich. Sie müssen sich um nichts kümmern. Lediglich ein funktionierender PC oder Notebook mit Internetanschluss sollte für jeden Teilnehmer am Schulungstag bereit stehen.
Vorteile einer Inhouse Schulung
- Kompetente Seminarberatung
- Dozenten aus der Praxis
- Auf Ihre Bedürfnisse zugeschnittener individueller Lernstoff
- Sie können den Termin flexibel gestalten, so wie es für Sie am besten passt
- Unsere Inhouse Schulungen können Europaweit durchgeführt werden
- Der Fokus liegt auf Ihrem Schulungsbedarf, somit schonen Sie Ihr Budget
- Wissenslücken Ihrer Mitarbeitet werden schnell geschlossen