コンピューティングにおいて、データウェアハウス(DWまたはDWH)は、エンタープライズデータウェアハウス(EDW)とも呼ばれ、レポート作成やデータ分析に使用されるシステムであり、ビジネスインテリジェンスの中核的構成要素です。データウェアハウスは、異種のソースから統合されたデータの中央リポジトリです。これらは、データ分析、レポート生成、統合データ全体にわたる洞察の開発に最適化された方法で編成された、現在および履歴データを保存します。これらは、アナリストや管理者が組織的な意思決定を行うために使用されることを目的としています。
ウェアハウスに保存されるデータは、運用システム(マーケティングや販売など)からアップロードされます。データは、運用データストアを通過する場合があり、レポート用にデータウェアハウスで使用される前に、データ品質を確保するための追加操作としてデータクレンジングが必要になる場合があります。データウェアハウスシステムを構築するための2つの主要なワークフローは、抽出・変換・ロード(ETL)と抽出・ロード・変換(ELT)です。
構成要素
データウェアハウスおよびデータマートの環境には、いくつかの主要な部分が含まれます。データのソースシステムは、多くの場合、リレーショナルデータベースなどの企業の運用データベースで構成されます。データ統合技術とプロセスは、これらのソースシステムからデータを抽出し、変換して、データマートまたはウェアハウスにロードするために使用されます。ウェアハウスまたはマートにデータを保存するためのアーキテクチャと、さまざまなユーザー向けのツールやアプリケーションが必要です。メタデータ、データ品質、およびガバナンスプロセスも不可欠です。メタデータには、データソース(データベース、テーブル、列名)、更新スケジュール、およびデータ使用状況の測定値が含まれます。
関連システム
運用データベース
運用データベースは、データベース正規化とエンティティ・リレーションシップモデルを使用することで、データの整合性の維持と業務トランザクションの記録速度に最適化されています。運用システムの設計者は通常、データの整合性を確保するためにデータベース正規化に従います。完全に正規化されたデータベース設計では、業務トランザクションからの情報が数十から数百のテーブルに保存されることがよくあります。リレーショナルデータベースは、これらのテーブル間の関係を管理するのに効率的です。各トランザクションによって影響を受けるテーブル内のデータ量が少ないため、データベースの挿入・更新パフォーマンスは非常に高速です。パフォーマンスを向上させるために、古いデータは定期的に削除されます。
データウェアハウスは、分析アクセスパターンに最適化されており、通常、運用データベースで一般的なすべてのフィールドではなく、特定のフィールドを選択することを伴います。これらのアクセス方法の違いにより、運用データベース(大まかにOLTP)は行指向データベース管理システム(DBMS)の使用から恩恵を受けますが、分析データベース(大まかにOLAP)は列指向DBMSの使用から恩恵を受けます。運用システムはビジネスのスナップショットを維持しますが、ウェアハウスは、運用システムからウェアハウスにデータを定期的に移行するETLプロセスを通じて履歴データを維持します。
オンライン分析処理(OLAP)は、低いトランザクション率と、集計を含む複雑なクエリによって特徴付けられます。応答時間は、OLAPシステムの効果的なパフォーマンス指標です。OLAPアプリケーションは、データマイニングに広く使用されています。OLAPデータベースは、多次元スキーマ(通常はスタースキーマ)で集計された履歴データを保存します。OLAPシステムは通常、数時間のデータ遅延がありますが、データマートの遅延は約1日です。OLAPアプローチは、複数のソースと視点から多次元データを分析するために使用されます。OLAPの3つの基本操作は、ロールアップ(統合)、ドリルダウン、およびスライシング・ダイシングです。
オンライントランザクション処理(OLTP)は、多数の短いオンライントランザクション(INSERT、UPDATE、DELETE)によって特徴付けられます。OLTPシステムは、高速なクエリ処理と、マルチアクセス環境でのデータ整合性の維持を重視します。OLTPシステムの場合、パフォーマンスは1秒あたりのトランザクション数です。OLTPデータベースには、詳細で現在のデータが含まれています。トランザクションデータベースを保存するために使用されるスキーマは、エンティティモデル(通常は3NF)です。正規化は、このシステムのデータモデリング手法の標準です。
予測分析は、複雑な数学モデルを使用してデータ内の隠れたパターンを見つけて定量化し、製品の需要などのさまざまな将来の結果に備えて、より良い意思決定を行うことです。対照的に、OLAPは履歴データ分析に焦点を当てており、反応的です。予測システムは、顧客関係管理(CRM)にも使用されます。
データベース
データベースは、電子的に保存および管理されるデータの組織化されたコレクションです。これは、データベース管理システム(DBMS)を使用して構造化データを保存、取得、管理し、クエリと操作を行うように設計されています。
データマート
データマートは、単一の主題または機能領域に焦点を当てた単純なデータウェアハウスです。したがって、販売、財務、マーケティングなどの限られた数のソースからデータを引き出します。データマートは、多くの場合、組織内の単一の部門によって構築および制御されます。ソースは、内部運用システム、中央データウェアハウス、または外部データの場合があります。データマートの種類には、依存型、独立型、およびハイブリッドデータマートがあります。
データレイク
データレイクは、実行時に処理される生の形式で大量のデータを保存する中央リポジトリです。API、ファイル、データベース、センサー、ウェブサイトなどの複数のソースからデータを収集できます。データウェアハウスとは異なり、データレイクは構造化、半構造化、および非構造化形式でデータを保存するため、機械学習やビッグデータ処理に使用できます。
バリアント
ETL
典型的な抽出・変換・ロード(ETL)ベースのデータウェアハウスは、ステージング、データ統合、およびアクセス層を使用して主要な機能を保持します。ステージング層またはステージングデータベースは、異種のソースデータシステムのそれぞれから抽出された生データを保存します。統合層は、ステージング層からのデータを変換して異種のデータセットを統合し、多くの場合、この変換されたデータを運用データストア(ODS)データベースに保存します。統合されたデータは、その後、データウェアハウスデータベースと呼ばれる別のデータベースに移動され、データは階層グループ(多くの場合ディメンションと呼ばれる)、ファクト、および集計ファクトに配置されます。ファクトとディメンションの組み合わせは、スタースキーマと呼ばれることもあります。アクセス層は、ユーザーがデータを取得するのに役立ちます。
データの主要なソースは、クレンジング、変換、カタログ化され、データマイニング、オンライン分析処理、市場調査、および意思決定支援のために、管理者やその他のビジネス専門家が使用できるようにされます。ただし、データを取得および分析する手段、データを抽出・変換・ロードする手段、およびデータディクショナリを管理する手段も、データウェアハウスシステムの不可欠な構成要素と見なされます。データウェアハウスへの多くの言及は、このより広い文脈を使用しています。したがって、データウェアハウスの拡張定義には、ビジネスインテリジェンスツール、リポジトリへのデータの抽出・変換・ロードのツールが含まれます。
ELTと最新アーキテクチャ
ETLとは対照的に、抽出・ロード・変換(ELT)ワークフローは、生データをデータレイクやクラウドデータウェアハウスなどのターゲットシステムに直接ロードし、その後で変換を実行します。このアプローチは、最新システムの処理能力を活用して大量のデータを処理します。ELTは、スケーラブルなストレージとコンピューティングを提供するAmazon Web Services、Microsoft Azure、Google Cloudなどのクラウドベースのプラットフォームと関連付けられることがよくあります。これらのプラットフォームはデータウェアハウスの進化に影響を与え、高度な分析のためのMachine learningおよびArtificial intelligenceワークロードとの統合を可能にしました。
歴史的背景
データウェアハウスの概念は1980年代に登場し、ビジネスインテリジェンス分野の研究者や実務家による主要な貢献がありました。「データウェアハウス」という用語は、1990年代初頭にビル・インモンによって普及し、彼はそれを主題指向、統合、非揮発性、および時間変動性のあるデータのコレクションと定義しました。ラルフ・キンボールは後に、スタースキーマを含むディメンショナルモデリングアプローチを導入し、広く採用されました。これらの基礎的なアイデアは、最新のデータウェアハウス実践の中心であり続けていますが、クラウド技術が実装の詳細を変えています。