Associate Data Practitioner 問題の一覧 › 1. データの準備と取り込み
オンプレミスの Hadoop 上で動作している既存の Apache Spark ジョブを、コードをほぼ変更せずに Google Cloud に移行したいと考えています。最適なサービスはどれですか。
- Dataflow(Apache Beam への書き直し)
- Dataproc
- BigQuery Data Transfer Service
- Dataform
💡 答えと解説を見る
答え:B(Dataproc)
Dataproc はマネージドの Spark/Hadoop 環境で、既存ジョブを最小限の変更で移行できます。Dataflow は Beam への書き換えが必要で、DTS と Dataform はそもそも Spark ジョブを実行するサービスではありません。
Dataproc はマネージドの Spark/Hadoop 環境で、既存ジョブを最小限の変更で移行できます。Dataflow は Beam への書き換えが必要で、DTS と Dataform はそもそも Spark ジョブを実行するサービスではありません。
関連サービス
| BigQuery Data Transfer Service | SaaS(Google 広告等)・S3・Teradata からの定期転送。ノーコード |
| Dataflow | Apache Beam ベースのマネージド処理基盤。バッチ&ストリーミング統一、オートスケール |
| Dataproc | マネージド Spark/Hadoop。既存ジョブの移行向け。ephemeral クラスタ推奨 |
| Dataform | BigQuery の SQL 変換(ELT)を依存管理・テスト・バージョン管理付きで運用 |
※ 学習用に作成したオリジナル問題です。本番試験とは異なります。