Associate Data Practitioner 問題の一覧 › 3. データパイプラインのオーケストレーション
Cloud Composer を使う利点として適切なものを2つ選択してください(2つ選択)。
※ 該当するものをすべて選択(2つ)
- BigQuery、Dataflow、Dataproc などの Google Cloud サービス用オペレーターが用意されている
- サーバーレスで環境管理が一切不要である
- 単純な1回限りのクエリ実行に最も低コストである
- Python で DAG を定義し、タスク間の依存関係とリトライを管理できる
- メッセージの低遅延配信を提供する
💡 答えと解説を見る
答え:A・D(BigQuery、Dataflow、Dataproc などの Google Cloud サービス用オペレーターが用意されている/Python で DAG を定義し、タスク間の依存関係とリトライを管理できる)
Composer は Airflow の DAG とGoogle Cloud 用オペレーターが利点。単純な単発処理にはスケジュールクエリのほうが低コストで、Composer は環境(GKE ベース)が常時稼働するため完全なサーバーレスではない。低遅延メッセージ配信は Pub/Sub の役割である。
Composer は Airflow の DAG とGoogle Cloud 用オペレーターが利点。単純な単発処理にはスケジュールクエリのほうが低コストで、Composer は環境(GKE ベース)が常時稼働するため完全なサーバーレスではない。低遅延メッセージ配信は Pub/Sub の役割である。
関連サービス
| Pub/Sub | 非同期メッセージング。ストリーミング取り込みの入口。at-least-once 配信、DLQ 対応 |
| Dataflow | Apache Beam ベースのマネージド処理基盤。バッチ&ストリーミング統一、オートスケール |
| Dataproc | マネージド Spark/Hadoop。既存ジョブの移行向け。ephemeral クラスタ推奨 |
| スケジュールクエリ | SQL の定期実行。最も簡単なオーケストレーション |
| Cloud Composer | マネージド Airflow。DAG で複雑なパイプライン・依存・リトライを管理 |
※ 学習用に作成したオリジナル問題です。本番試験とは異なります。