Associate Data Practitioner 問題の一覧 › 1. データの準備と取り込み
BigQuery 内の複数の SQL 変換をテーブル間の依存関係を管理しながら定義し、Git でバージョン管理し、データ品質のアサーションも書きたいと考えています。最適なツールはどれですか。
- Dataform
- Dataflow
- Cloud Data Fusion
- Dataproc Serverless
💡 答えと解説を見る
答え:A(Dataform)
Dataform は SQLX で BigQuery 内の変換(ELT)を依存関係付きで管理でき、Git 連携とアサーションに対応します。Dataflow や Dataproc はコードベースの大規模処理、Data Fusion は GUI の ETL で、SQL ワークフロー管理が主目的ではありません。
Dataform は SQLX で BigQuery 内の変換(ELT)を依存関係付きで管理でき、Git 連携とアサーションに対応します。Dataflow や Dataproc はコードベースの大規模処理、Data Fusion は GUI の ETL で、SQL ワークフロー管理が主目的ではありません。
関連サービス
| Dataflow | Apache Beam ベースのマネージド処理基盤。バッチ&ストリーミング統一、オートスケール |
| Dataproc | マネージド Spark/Hadoop。既存ジョブの移行向け。ephemeral クラスタ推奨 |
| Dataproc Serverless | クラスタ管理不要で Spark バッチを実行 |
| Cloud Data Fusion | GUI ノーコード ETL/ELT(CDAP)。Wrangler でデータ整形 |
| Dataform | BigQuery の SQL 変換(ELT)を依存管理・テスト・バージョン管理付きで運用 |
※ 学習用に作成したオリジナル問題です。本番試験とは異なります。