Associate Data Practitioner 問題の一覧 › 1. データの準備と取り込み
毎日深夜に Cloud Storage へ出力される数十GBのCSVファイルを BigQuery テーブルに取り込みます。追加のコンピューティング費用を最小限にしたい場合、最適な方法はどれですか。
- Dataflow ストリーミングジョブでファイルを1行ずつ挿入する
- Cloud Functions で tabledata.insertAll API を使い行ごとに挿入する
- BigQuery のロードジョブ(bq load)をスケジュール実行する
- Dataproc クラスタを毎日作成して Spark で書き込む
💡 答えと解説を見る
答え:C(BigQuery のロードジョブ(bq load)をスケジュール実行する)
BigQuery のバッチロードジョブは共有スロットを使い、取り込み自体に追加料金がかかりません。ストリーミング挿入や Dataflow、Dataproc は別途コストが発生し、このバッチ用途には過剰です。
BigQuery のバッチロードジョブは共有スロットを使い、取り込み自体に追加料金がかかりません。ストリーミング挿入や Dataflow、Dataproc は別途コストが発生し、このバッチ用途には過剰です。
関連サービス
| bq load | Cloud Storage 等のファイルを BigQuery へロード(ロードジョブは無料) |
| Dataflow | Apache Beam ベースのマネージド処理基盤。バッチ&ストリーミング統一、オートスケール |
| Dataproc | マネージド Spark/Hadoop。既存ジョブの移行向け。ephemeral クラスタ推奨 |
| Cloud Storage | オブジェクトストレージ。データレイク・着地点 |
※ 学習用に作成したオリジナル問題です。本番試験とは異なります。