📊 Associate Data Practitioner

データサービス・SQL・用語 早見表

カテゴリサービス・用語用途・ポイント
取り込みPub/Sub非同期メッセージング。ストリーミング取り込みの入口。at-least-once 配信、DLQ 対応
取り込みPub/Sub BigQuery サブスクリプションPub/Sub から BigQuery へ直接書き込み(変換不要なら Dataflow 不要)
取り込みDatastreamサーバーレス CDC。MySQL/PostgreSQL/Oracle 等から BigQuery・GCS へ継続レプリケーション
取り込みBigQuery Data Transfer ServiceSaaS(Google 広告等)・S3・Teradata からの定期転送。ノーコード
取り込みStorage Transfer ServiceS3・オンプレ・他クラウド → Cloud Storage の大容量転送
取り込みTransfer Appliance超大容量(数百TB〜)をオフライン物理デバイスで転送
取り込みbq loadCloud Storage 等のファイルを BigQuery へロード(ロードジョブは無料)
取り込みStorage Write APIBigQuery へのストリーミング挿入の推奨 API(exactly-once 対応)
取り込み外部テーブル / BigLakeロードせず Cloud Storage 上のデータを BigQuery から直接クエリ。BigLake は細粒度アクセス制御に対応
取り込みAvroスキーマ内包の行指向形式。BigQuery ロードで最も推奨
取り込みParquet / ORC列指向形式。分析・Spark 向け。スキーマ内包
変換・処理DataflowApache Beam ベースのマネージド処理基盤。バッチ&ストリーミング統一、オートスケール
変換・処理Dataflow テンプレートコード不要で実行できる定型パイプライン(Pub/Sub→BigQuery など)
変換・処理Dataprocマネージド Spark/Hadoop。既存ジョブの移行向け。ephemeral クラスタ推奨
変換・処理Dataproc Serverlessクラスタ管理不要で Spark バッチを実行
変換・処理Cloud Data FusionGUI ノーコード ETL/ELT(CDAP)。Wrangler でデータ整形
変換・処理DataformBigQuery の SQL 変換(ELT)を依存管理・テスト・バージョン管理付きで運用
変換・処理ウィンドウ(Fixed/Sliding/Session)ストリームを時間で区切って集計。Session は無操作間隔で区切る
変換・処理ウォーターマークイベント時間の進捗の目安。遅延データの扱いを決める
変換・処理冪等性 (Idempotency)再実行しても結果が重複しない設計。MERGE・上書き・一意キー
変換・処理ETL / ELTETL=変換してからロード、ELT=ロードしてから DWH 内で SQL 変換
BigQueryパーティション日付/整数範囲/取り込み時間で分割。スキャン量・コスト削減
BigQueryクラスタリング最大4列で並べ替え。フィルタ・集計を高速化。パーティションと併用可
BigQueryrequire_partition_filterパーティションフィルタ必須にして全件スキャンを防止
BigQueryマテリアライズドビュー事前計算+自動増分更新。繰り返し集計の高速化・コスト削減
BigQuery論理ビュー保存クエリ。アクセス制御・抽象化に有用(毎回実行)
BigQueryスケジュールクエリSQL の定期実行。最も簡単なオーケストレーション
BigQueryBI Engineインメモリ高速化。ダッシュボードの低レイテンシ化
BigQueryドライラン実行せずにスキャンバイト数を見積もり(--dry_run)
BigQuerymaximum_bytes_billedこれを超えるクエリを失敗させて課金上限を設定
BigQueryクエリキャッシュ同一クエリ・データ未変更なら24時間は無料で結果再利用
BigQueryLIMIT出力行数を減らすだけ。スキャン量(課金)は減らない
BigQueryEditions / スロット容量課金。オートスケール・予約。予測可能なコスト向け
BigQueryオンデマンド課金スキャンしたバイト数に課金(TB 単位)
BigQuery長期ストレージ90日間更新なしのテーブル/パーティションが自動で割引
BigQueryタイムトラベル過去2〜7日の時点データを参照・復元(FOR SYSTEM_TIME AS OF)
BigQueryフェイルセーフタイムトラベル後さらに7日間、サポート経由で復旧可能
BigQueryテーブルスナップショット / クローンスナップショット=読取専用の時点コピー、クローン=書込可能な軽量コピー
BigQueryAnalytics Hubデータセットを組織内外とコピー不要で共有・交換
SQLウィンドウ関数OVER (PARTITION BY .. ORDER BY ..)。累計・順位・LAG/LEAD
SQLQUALIFYウィンドウ関数の結果でフィルタ。重複排除の定番(= ROW_NUMBER()=1)
SQLHAVING集計後の行フィルタ(WHERE は集計前)
SQLUNNESTARRAY を行に展開
SQLSAFE_CAST変換失敗時に NULL を返す(エラーにならない)
SQLCOALESCE / IFNULLNULL を既定値で置換
SQLAPPROX_COUNT_DISTINCT近似のユニーク数。大規模データで高速
SQLMERGEUPSERT(一致で更新、不一致で挿入)。CDC 反映・冪等な更新
SQLEXTERNAL_QUERYCloud SQL / Spanner 等へのフェデレーテッドクエリ
MLBigQuery MLSQL で ML モデルを作成・評価・予測。CREATE MODEL / ML.EVALUATE / ML.PREDICT
MLLINEAR_REG / LOGISTIC_REG回帰 / 分類(2値・多クラス)の基本モデル
MLARIMA_PLUS時系列予測(ML.FORECAST)
MLKMEANS教師なしクラスタリング(顧客セグメントなど)
MLMATRIX_FACTORIZATIONレコメンド(協調フィルタリング)
MLGemini in BigQuery自然言語から SQL 生成、コード補完、データ準備支援
可視化Looker Studio無料のセルフサービス BI。迅速なレポート作成・共有
可視化LookerLookML のセマンティックレイヤーによる統制された BI・埋め込み
可視化LookMLLooker の指標・ディメンション定義言語。指標の一元管理
可視化Connected Sheetsスプレッドシートから BigQuery の大規模データを分析
可視化Colab EnterprisePython ノートブックで探索的分析・ML(BigQuery Studio 統合)
可視化折れ線 / 棒 / 散布図時系列推移 / カテゴリ比較 / 2変数の相関
オーケストレーションCloud Composerマネージド Airflow。DAG で複雑なパイプライン・依存・リトライを管理
オーケストレーションDAG有向非巡回グラフ。タスクと依存関係の定義(Airflow)
オーケストレーションOperator / SensorOperator=処理の実行、Sensor=条件が満たされるまで待機(Airflow)
オーケストレーションCloud Schedulerマネージド cron。HTTP/Pub/Sub/Workflows を定時起動
オーケストレーションWorkflowsサーバーレスで API 呼び出しを YAML でつなぐ軽量オーケストレーション
オーケストレーションEventarcイベント(GCS 到着等)を Cloud Run 等へルーティング
オーケストレーションCloud Run functionsイベント駆動の軽量コード。重い処理は Dataflow/BigQuery へ
オーケストレーションDead-letter キュー処理失敗メッセージの退避先。パイプラインを止めない
オーケストレーションCloud Monitoring / Loggingメトリクス・アラート・ログ。ジョブ失敗や遅延の検知
保存Cloud Storageオブジェクトストレージ。データレイク・着地点
保存Standard / Nearline / Coldline / Archive最小保存期間 なし/30/90/365日。アクセス頻度が低いほど保存単価が安い
保存Autoclassアクセスパターンに応じてストレージクラスを自動変更
保存ライフサイクルルール経過日数等でクラス移行・削除を自動化
保存保持ポリシー / バケットロック期間中の削除・上書きを禁止(コンプライアンス)
保存オブジェクトバージョニング誤削除・上書きからの復旧
保存Cloud SQLマネージド MySQL/PostgreSQL/SQL Server。中小規模の OLTP
保存AlloyDBPostgreSQL 互換の高性能 DB。OLTP+分析
保存Spannerグローバル分散・強整合の RDB。水平スケール OLTP
保存Bigtableワイドカラム NoSQL。低レイテンシ・大規模時系列/IoT
保存Firestoreドキュメント DB。モバイル/Web アプリ
保存データレイク / DWH / レイクハウス生データ保存 / 整形済み分析 / 両者統合(BigLake・Iceberg)
セキュリティ・ガバナンスdataViewer / dataEditor / jobUserデータ読取 / データ編集 / クエリジョブ実行(データ権限とは別)
セキュリティ・ガバナンス最小権限の原則必要最小限のロールのみ付与。基本ロール(Owner/Editor)は避ける
セキュリティ・ガバナンスサービスアカウントワークロード用の ID。パイプラインごとに最小権限で作成
セキュリティ・ガバナンス列レベルセキュリティポリシータグで機密列を保護
セキュリティ・ガバナンス行レベルセキュリティROW ACCESS POLICY でユーザーごとに見える行を制限
セキュリティ・ガバナンス承認済みビュー元テーブルへの権限なしにビュー経由でデータ共有
セキュリティ・ガバナンスCMEKCloud KMS の顧客管理鍵で暗号化(既定は Google 管理鍵)
セキュリティ・ガバナンスSensitive Data Protection (DLP)機密データの検出と匿名化(マスキング・トークン化)
セキュリティ・ガバナンスDataplex Universal Catalog探索・メタデータ・リネージ・データ品質・用語集を統合するガバナンス基盤
セキュリティ・ガバナンスデータリネージデータの流れを追跡。影響分析・監査に有用
セキュリティ・ガバナンスCloud Audit Logs管理/データアクセスの監査ログ(誰がいつ何をしたか)
セキュリティ・ガバナンスVPC Service Controlsサービス境界によるデータ持ち出し防止
セキュリティ・ガバナンスデータ所在地(ロケーション)データセット作成時に決定。作成後は変更不可
セキュリティ・ガバナンス予算とアラートCloud Billing の予算で閾値通知。課金データを BigQuery にエクスポートして分析