Associate Data Practitioner 問題の一覧 › 3. データパイプラインのオーケストレーション
小売企業が、店舗の売上データを数分以内に分析基盤へ反映したいが、1日1回のバッチ処理しかなく遅延が問題になっている。変更は BigQuery ではなく Cloud SQL for PostgreSQL に書き込まれている。最小限の開発で要件を満たす方法はどれか。
- CSV を手動でアップロードする
- Cloud Composer で毎日全件エクスポートする
- Datastream で Cloud SQL から BigQuery へ CDC ストリームを構成する
- 1時間ごとのスケジュールクエリでフルコピーする
💡 答えと解説を見る
答え:C(Datastream で Cloud SQL から BigQuery へ CDC ストリームを構成する)
Datastream は Cloud SQL などのデータベースから BigQuery へ低遅延で変更を複製でき、コード開発も最小で済む。日次・時間次のフルコピーや手動は遅延要件を満たさず非効率である。
Datastream は Cloud SQL などのデータベースから BigQuery へ低遅延で変更を複製でき、コード開発も最小で済む。日次・時間次のフルコピーや手動は遅延要件を満たさず非効率である。
関連サービス
| Datastream | サーバーレス CDC。MySQL/PostgreSQL/Oracle 等から BigQuery・GCS へ継続レプリケーション |
| スケジュールクエリ | SQL の定期実行。最も簡単なオーケストレーション |
| Cloud Composer | マネージド Airflow。DAG で複雑なパイプライン・依存・リトライを管理 |
| Cloud SQL | マネージド MySQL/PostgreSQL/SQL Server。中小規模の OLTP |
※ 学習用に作成したオリジナル問題です。本番試験とは異なります。