データパイプラインの廃止を検討するタイミング

パイプラインが失敗した場合は、次の質問をします。「このパイプラインは修正すべきか、それとも廃止できるか?」

評価プロセス

ステップ 1: dbt モデルの使用状況を確認する

ツール: MonteCarlo

  1. 失敗したパイプラインから最もダウンストリームのモデルを見つける
  2. アセットを見つけ、そのテーブルリネージを確認する
  3. クエリアクティビティをレビュー: リネージ内のいずれかのテーブルが過去60日間にクエリされたか確認する
    • 最近クエリがあった → パイプラインは活発に使用されています
    • 60日間クエリなし → 廃止の候補としてフラグを立てる

ステップ 2: 接続されているダッシュボードを見つける

ツール: MonteCarlo

  1. テーブルリネージからダウンストリームレポートに移動する
  2. Tableau コンテンツでフィルター:
    • Tableau Workbook
    • Tableau Live Data Source

ステップ 3: ダッシュボードの使用状況を分析する

ツール: Tableau ダッシュボード閲覧者ダッシュボード

クイックチェック:

  1. 場所を確認: ダッシュボードはすでに Admin Archive フォルダにあるか?
    • はい → すでに廃止済みで、パイプラインを安全に削除できます
  2. ダッシュボード名でフィルター(左上の入力フィールド)
  3. Workbook - Dashboard Views per Month チャート(左下)で最近の使用状況を確認する
  4. 結果を解釈:
    • 最も右の月 = 最新の使用状況
    • 当月が欠落 = 今月は使用なし

ステップ 4: 判断を下す

すべての条件が満たされた場合に廃止する:

  • ❌ 過去 60 日間に dbt モデルのクエリなし
  • ❌ 過去 60 日間にダッシュボードビューなし
  • ❌ その他のダウンストリームの使用なし

廃止前に:

  • ステークホルダーに確認(データオーナー、ビジネスユーザー)
  • 📋 決定を文書化する

ステップ 5: 廃止を実行する

アクション:

  1. すべてのコードとデータを含むデータパイプラインを削除する
  2. Tableau コンテンツをアーカイブする: #data-tableau Slack チャンネルで BI チームに連絡する

簡易判断ツリー

パイプラインが失敗
60日間でモデルがクエリされたか? ──→ はい ──→ パイプラインを修正
    ↓ いいえ
60日間でダッシュボードが閲覧されたか? ──→ はい ──→ パイプラインを修正
    ↓ いいえ
ステークホルダーの確認? ──→ いいえ ──→ パイプラインを維持
    ↓ はい
パイプラインを廃止 + ダッシュボードをアーカイブ