| 取り込み | Pub/Sub | 非同期メッセージング。ストリーミング取り込みの入口。at-least-once 配信、DLQ 対応 |
| 取り込み | Pub/Sub BigQuery サブスクリプション | Pub/Sub から BigQuery へ直接書き込み(変換不要なら Dataflow 不要) |
| 取り込み | Datastream | サーバーレス CDC。MySQL/PostgreSQL/Oracle 等から BigQuery・GCS へ継続レプリケーション |
| 取り込み | BigQuery Data Transfer Service | SaaS(Google 広告等)・S3・Teradata からの定期転送。ノーコード |
| 取り込み | Storage Transfer Service | S3・オンプレ・他クラウド → Cloud Storage の大容量転送 |
| 取り込み | Transfer Appliance | 超大容量(数百TB〜)をオフライン物理デバイスで転送 |
| 取り込み | bq load | Cloud Storage 等のファイルを BigQuery へロード(ロードジョブは無料) |
| 取り込み | Storage Write API | BigQuery へのストリーミング挿入の推奨 API(exactly-once 対応) |
| 取り込み | 外部テーブル / BigLake | ロードせず Cloud Storage 上のデータを BigQuery から直接クエリ。BigLake は細粒度アクセス制御に対応 |
| 取り込み | Avro | スキーマ内包の行指向形式。BigQuery ロードで最も推奨 |
| 取り込み | Parquet / ORC | 列指向形式。分析・Spark 向け。スキーマ内包 |
| 変換・処理 | Dataflow | Apache Beam ベースのマネージド処理基盤。バッチ&ストリーミング統一、オートスケール |
| 変換・処理 | Dataflow テンプレート | コード不要で実行できる定型パイプライン(Pub/Sub→BigQuery など) |
| 変換・処理 | Dataproc | マネージド Spark/Hadoop。既存ジョブの移行向け。ephemeral クラスタ推奨 |
| 変換・処理 | Dataproc Serverless | クラスタ管理不要で Spark バッチを実行 |
| 変換・処理 | Cloud Data Fusion | GUI ノーコード ETL/ELT(CDAP)。Wrangler でデータ整形 |
| 変換・処理 | Dataform | BigQuery の SQL 変換(ELT)を依存管理・テスト・バージョン管理付きで運用 |
| 変換・処理 | ウィンドウ(Fixed/Sliding/Session) | ストリームを時間で区切って集計。Session は無操作間隔で区切る |
| 変換・処理 | ウォーターマーク | イベント時間の進捗の目安。遅延データの扱いを決める |
| 変換・処理 | 冪等性 (Idempotency) | 再実行しても結果が重複しない設計。MERGE・上書き・一意キー |
| 変換・処理 | ETL / ELT | ETL=変換してからロード、ELT=ロードしてから DWH 内で SQL 変換 |
| BigQuery | パーティション | 日付/整数範囲/取り込み時間で分割。スキャン量・コスト削減 |
| BigQuery | クラスタリング | 最大4列で並べ替え。フィルタ・集計を高速化。パーティションと併用可 |
| BigQuery | require_partition_filter | パーティションフィルタ必須にして全件スキャンを防止 |
| BigQuery | マテリアライズドビュー | 事前計算+自動増分更新。繰り返し集計の高速化・コスト削減 |
| BigQuery | 論理ビュー | 保存クエリ。アクセス制御・抽象化に有用(毎回実行) |
| BigQuery | スケジュールクエリ | SQL の定期実行。最も簡単なオーケストレーション |
| BigQuery | BI Engine | インメモリ高速化。ダッシュボードの低レイテンシ化 |
| BigQuery | ドライラン | 実行せずにスキャンバイト数を見積もり(--dry_run) |
| BigQuery | maximum_bytes_billed | これを超えるクエリを失敗させて課金上限を設定 |
| BigQuery | クエリキャッシュ | 同一クエリ・データ未変更なら24時間は無料で結果再利用 |
| BigQuery | LIMIT | 出力行数を減らすだけ。スキャン量(課金)は減らない |
| BigQuery | Editions / スロット | 容量課金。オートスケール・予約。予測可能なコスト向け |
| BigQuery | オンデマンド課金 | スキャンしたバイト数に課金(TB 単位) |
| BigQuery | 長期ストレージ | 90日間更新なしのテーブル/パーティションが自動で割引 |
| BigQuery | タイムトラベル | 過去2〜7日の時点データを参照・復元(FOR SYSTEM_TIME AS OF) |
| BigQuery | フェイルセーフ | タイムトラベル後さらに7日間、サポート経由で復旧可能 |
| BigQuery | テーブルスナップショット / クローン | スナップショット=読取専用の時点コピー、クローン=書込可能な軽量コピー |
| BigQuery | Analytics Hub | データセットを組織内外とコピー不要で共有・交換 |
| SQL | ウィンドウ関数 | OVER (PARTITION BY .. ORDER BY ..)。累計・順位・LAG/LEAD |
| SQL | QUALIFY | ウィンドウ関数の結果でフィルタ。重複排除の定番(= ROW_NUMBER()=1) |
| SQL | HAVING | 集計後の行フィルタ(WHERE は集計前) |
| SQL | UNNEST | ARRAY を行に展開 |
| SQL | SAFE_CAST | 変換失敗時に NULL を返す(エラーにならない) |
| SQL | COALESCE / IFNULL | NULL を既定値で置換 |
| SQL | APPROX_COUNT_DISTINCT | 近似のユニーク数。大規模データで高速 |
| SQL | MERGE | UPSERT(一致で更新、不一致で挿入)。CDC 反映・冪等な更新 |
| SQL | EXTERNAL_QUERY | Cloud SQL / Spanner 等へのフェデレーテッドクエリ |
| ML | BigQuery ML | SQL で ML モデルを作成・評価・予測。CREATE MODEL / ML.EVALUATE / ML.PREDICT |
| ML | LINEAR_REG / LOGISTIC_REG | 回帰 / 分類(2値・多クラス)の基本モデル |
| ML | ARIMA_PLUS | 時系列予測(ML.FORECAST) |
| ML | KMEANS | 教師なしクラスタリング(顧客セグメントなど) |
| ML | MATRIX_FACTORIZATION | レコメンド(協調フィルタリング) |
| ML | Gemini in BigQuery | 自然言語から SQL 生成、コード補完、データ準備支援 |
| 可視化 | Looker Studio | 無料のセルフサービス BI。迅速なレポート作成・共有 |
| 可視化 | Looker | LookML のセマンティックレイヤーによる統制された BI・埋め込み |
| 可視化 | LookML | Looker の指標・ディメンション定義言語。指標の一元管理 |
| 可視化 | Connected Sheets | スプレッドシートから BigQuery の大規模データを分析 |
| 可視化 | Colab Enterprise | Python ノートブックで探索的分析・ML(BigQuery Studio 統合) |
| 可視化 | 折れ線 / 棒 / 散布図 | 時系列推移 / カテゴリ比較 / 2変数の相関 |
| オーケストレーション | Cloud Composer | マネージド Airflow。DAG で複雑なパイプライン・依存・リトライを管理 |
| オーケストレーション | DAG | 有向非巡回グラフ。タスクと依存関係の定義(Airflow) |
| オーケストレーション | Operator / Sensor | Operator=処理の実行、Sensor=条件が満たされるまで待機(Airflow) |
| オーケストレーション | Cloud Scheduler | マネージド cron。HTTP/Pub/Sub/Workflows を定時起動 |
| オーケストレーション | Workflows | サーバーレスで API 呼び出しを YAML でつなぐ軽量オーケストレーション |
| オーケストレーション | Eventarc | イベント(GCS 到着等)を Cloud Run 等へルーティング |
| オーケストレーション | Cloud Run functions | イベント駆動の軽量コード。重い処理は Dataflow/BigQuery へ |
| オーケストレーション | Dead-letter キュー | 処理失敗メッセージの退避先。パイプラインを止めない |
| オーケストレーション | Cloud Monitoring / Logging | メトリクス・アラート・ログ。ジョブ失敗や遅延の検知 |
| 保存 | Cloud Storage | オブジェクトストレージ。データレイク・着地点 |
| 保存 | Standard / Nearline / Coldline / Archive | 最小保存期間 なし/30/90/365日。アクセス頻度が低いほど保存単価が安い |
| 保存 | Autoclass | アクセスパターンに応じてストレージクラスを自動変更 |
| 保存 | ライフサイクルルール | 経過日数等でクラス移行・削除を自動化 |
| 保存 | 保持ポリシー / バケットロック | 期間中の削除・上書きを禁止(コンプライアンス) |
| 保存 | オブジェクトバージョニング | 誤削除・上書きからの復旧 |
| 保存 | Cloud SQL | マネージド MySQL/PostgreSQL/SQL Server。中小規模の OLTP |
| 保存 | AlloyDB | PostgreSQL 互換の高性能 DB。OLTP+分析 |
| 保存 | Spanner | グローバル分散・強整合の RDB。水平スケール OLTP |
| 保存 | Bigtable | ワイドカラム NoSQL。低レイテンシ・大規模時系列/IoT |
| 保存 | Firestore | ドキュメント DB。モバイル/Web アプリ |
| 保存 | データレイク / DWH / レイクハウス | 生データ保存 / 整形済み分析 / 両者統合(BigLake・Iceberg) |
| セキュリティ・ガバナンス | dataViewer / dataEditor / jobUser | データ読取 / データ編集 / クエリジョブ実行(データ権限とは別) |
| セキュリティ・ガバナンス | 最小権限の原則 | 必要最小限のロールのみ付与。基本ロール(Owner/Editor)は避ける |
| セキュリティ・ガバナンス | サービスアカウント | ワークロード用の ID。パイプラインごとに最小権限で作成 |
| セキュリティ・ガバナンス | 列レベルセキュリティ | ポリシータグで機密列を保護 |
| セキュリティ・ガバナンス | 行レベルセキュリティ | ROW ACCESS POLICY でユーザーごとに見える行を制限 |
| セキュリティ・ガバナンス | 承認済みビュー | 元テーブルへの権限なしにビュー経由でデータ共有 |
| セキュリティ・ガバナンス | CMEK | Cloud KMS の顧客管理鍵で暗号化(既定は Google 管理鍵) |
| セキュリティ・ガバナンス | Sensitive Data Protection (DLP) | 機密データの検出と匿名化(マスキング・トークン化) |
| セキュリティ・ガバナンス | Dataplex Universal Catalog | 探索・メタデータ・リネージ・データ品質・用語集を統合するガバナンス基盤 |
| セキュリティ・ガバナンス | データリネージ | データの流れを追跡。影響分析・監査に有用 |
| セキュリティ・ガバナンス | Cloud Audit Logs | 管理/データアクセスの監査ログ(誰がいつ何をしたか) |
| セキュリティ・ガバナンス | VPC Service Controls | サービス境界によるデータ持ち出し防止 |
| セキュリティ・ガバナンス | データ所在地(ロケーション) | データセット作成時に決定。作成後は変更不可 |
| セキュリティ・ガバナンス | 予算とアラート | Cloud Billing の予算で閾値通知。課金データを BigQuery にエクスポートして分析 |