KI-Infrastruktur: Bereitstellungsarten

Overview

Dieser Kurs bietet einen umfassenden Leitfaden zum Bereitstellen, Verwalten und Optimieren von KI- und HPC-Arbeitslasten (Hochleistungs-Computing) auf Google Cloud. In einer Reihe von Lektionen und praktischen Demonstrationen lernen Sie verschiedene Bereitstellungsstrategien kennen – von hochgradig anpassbaren Umgebungen mit der Google Compute Engine (GCE) bis hin zu verwalteten Lösungen wie der Google Kubernetes Engine (GKE). Dabei lernen Sie, wie Sie Cluster erstellen und GKE für Inferenzprozesse bereitstellen.

Syllabus

Kursübersicht

Dieses Modul bietet einen Überblick über den Kurs und stellt die Lernziele vor.

Cluster-Erstellungsprozess

In diesem Modul wird der Prozess zur Erstellung eines AI Hypercomputer-Clusters detailliert beschrieben. Es umfasst die wichtigsten erforderlichen Entscheidungen, darunter die Wahl des Maschinentyps, der Nutzungsoption, der Bereitstellungsoption, des Orchestrators und des Cluster-Images.

Einen Cluster mit der Compute Engine erstellen

In diesem Modul werden wichtige Konfigurationsoptionen und Optimierungstechniken für die Bereitstellung eines AI Hypercomputer-Clusters auf der Google Compute Engine (GCE) beschrieben. Es umfasst die Auswahl von Maschinentypen, Beschleuniger-Betriebssystem-Images, Bereitstellungsoptionen und Strategien zur Optimierung der Netzwerkleistung.

Mit der Google Kubernetes Engine (GKE) Cluster erstellen

In diesem Modul werden Konfigurationsoptionen für die Bereitstellung eines AI Hypercomputer-Clusters auf der Google Kubernetes Engine (GKE) beschrieben. Es umfasst die Containerisierung sowie GKE-Betriebsmodi, Netzwerkkonfigurationen und Verfahren zur Arbeitslastoptimierung wie verteiltes Training und GPU-Freigabe.

Bereitstellung mit GKE für Inferenzprozesse

In diesem Modul werden Optimierungstechniken für die Architektur einer Inferenzarbeitslast auf GKE untersucht. Es umfasst den GKE-Inferenz-Workflow, die wichtigsten Infrastrukturen und Optimierungen auf Modellebene.