Google Cloud에서 일괄 데이터 파이프라인 빌드하기

Overview

이 중급 과정에서는 Google Cloud에서 강력한 일괄 데이터 파이프라인을 설계, 빌드, 최적화하는 방법을 알아봅니다. 기본적인 데이터 처리를 넘어, 시의적절한 비즈니스 인텔리전스와 중요한 보고에 필수적인 대규모 데이터 변환과 효율적인 워크플로 조정에 대해 살펴봅니다. Apache Beam용 Dataflow와 Apache Spark용 서버리스(Dataproc Serverless)를 사용하여 구현을 실습하고, 파이프라인 안정성과 운영 우수성을 보장하기 위해 데이터 품질, 모니터링, 알림에 대한 중요한 고려사항을 다룹니다. 데이터 웨어하우징, ETL/ELT, SQL, Python, Google Cloud 개념에 대한 기본적인 지식이 있으면 좋습니다.

Syllabus

일괄 데이터 파이프라인을 선택해야 하는 경우

일괄 데이터 파이프라인을 개발하고 유지관리하는 데 있어 데이터 엔지니어의 중요한 역할을 배우고, 핵심 구성요소와 수명 주기를 이해하며, 일괄 데이터 처리의 일반적인 과제를 분석합니다. 또한 이러한 과제를 해결하는 데 도움이 되는 주요 Google Cloud 서비스를 파악합니다.