Infrastruktur AI: Jenis Deployment

Overview

Google, IBM & Meta Certificates — All 10,000+ Courses at 40% Off

One annual plan covers every course and certificate on Coursera. 40% off for a limited time.

Kursus ini memberikan panduan komprehensif untuk men-deploy, mengelola, dan mengoptimalkan workload AI dan komputasi berperforma tinggi (HPC) di Google Cloud. Melalui serangkaian pelajaran dan demonstrasi praktis, Anda akan menjelajahi berbagai strategi deployment, mulai dari lingkungan yang sangat mudah disesuaikan menggunakan Google Compute Engine (GCE) hingga solusi terkelola seperti Google Kubernetes Engine (GKE). Secara spesifik, Anda akan mempelajari cara membuat cluster dan men-deploy GKE untuk inferensi.

Syllabus

Ringkasan kursus

Modul ini memberikan gambaran umum tentang kursus dan menguraikan tujuan pembelajaran.

Proses pembuatan cluster

Modul ini menjelaskan secara terperinci proses pembuatan cluster AI Hypercomputer. Dokumen ini mencakup keputusan penting yang diperlukan, termasuk memilih jenis mesin, opsi pemakaian, opsi deployment, orchestrator, dan image cluster.

Membuat cluster dengan Compute Engine

Modul ini mengidentifikasi opsi konfigurasi utama dan teknik pengoptimalan untuk men-deploy cluster AI Hypercomputer di Google Compute Engine (GCE). Dokumen ini membahas pemilihan jenis mesin, OS image akselerator, opsi deployment, dan strategi untuk mengoptimalkan performa jaringan.

Membangun dengan Google Kubernetes Engine (GKE)

Modul ini mengidentifikasi opsi konfigurasi untuk men-deploy cluster AI Hypercomputer di Google Kubernetes Engine (GKE). Modul ini mencakup containerization, mode operasi GKE, konfigurasi jejaring, dan teknik pengoptimalan workload seperti pelatihan terdistribusi dan berbagi GPU.

Men-deploy GKE untuk inferensi

Modul ini mengkaji teknik pengoptimalan untuk merancang workload inferensi di GKE. Hal ini mencakup alur kerja inferensi GKE, infrastruktur utama, dan pengoptimalan tingkat model.