Overview

Google, IBM & Meta Certificates – 40% Off

One plan covers every Professional Certificate on Coursera.

AI インフラストラクチャ: ネットワーキング手法」コースへようこそ。このコースでは、Google Cloud の高帯域かつ低レイテンシなインフラストラクチャを活用し、AI システムを構成する各コンポーネント間のデータ転送と通信を最適化する方法を学びます。このコースを修了すると、データの取り込みやトレーニングから推論に至るまで、AI パイプライン全体においてネットワーキングが果たす重要な役割を理解し、ワークロードを最大限の速度で実行するためのベストプラクティスを適用できるようになります。

Syllabus

コースの概要

このモジュールでは、コースの概要と学習目標を概説します。

はじめに

このモジュールでは、従来のウェブアプリケーションと比較しながら、AI ワークロードに特有のネットワーキング要件について詳しく解説します。データ取り込みから推論に至るまで、各パイプライン段階で求められる帯域幅やレイテンシの要件を取り上げるとともに、「グッドプット」を最大化するために設計された Google Cloud の A3 および A4 GPU マシンタイプの「レールアラインド」ネットワークアーキテクチャを分析します。

データの取り込み向けネットワーキング

このモジュールでは、大規模なデータセットを効率的にクラウドへ移行するための戦略について詳しく説明します。クロスクラウドネットワークや Cloud Interconnect を活用して高帯域幅のパイプラインを構築する方法を取り上げるとともに、ジャンボフレーム（MTU）の有効化など、プロトコルオーバーヘッドを削減し、スループットを最適化するための構成のベストプラクティスを説明します。

AI トレーニング向けネットワーキング

このモジュールでは、分散モデルのトレーニングにおいて低レイテンシネットワーキングが果たす重要な役割について詳しく説明します。勾配同期におけるリモートダイレクトメモリアクセス（RDMA）の必要性、CPU リソースを解放する Google の Titanium オフロードアーキテクチャの利点、ボトルネックを生じさせずにクラスタをスケールするために必要なトポロジの選択について取り上げます。

推論向けネットワーキング

このモジュールでは、トラフィックの急増や長時間接続など、生成 AI 推論に特有のネットワーキング課題について詳しく説明します。GKE Inference Gateway や「キュー深度」に基づくルーティングを活用して Time to First Token を最適化する方法を取り上げるとともに、ネットワークの信頼性や Identity and Access Management（IAM）に関するベストプラクティスについても説明します。