開放式數據湖倉，釋放數據分析無限潛能

　　Cloudera首席技術官Ram Venkatesh

　　Cloudera產品管理副總裁Priyank Patel

　　Cloudera客戶運行著地球上最大的一些數據湖。這些湖為關鍵任務大規(guī)模數據分析、商業(yè)智能(BI)和機器學習用例，包括企業(yè)數據倉庫，提供動力。近年來，創(chuàng)造了“數據湖倉”一詞來描述這種對數據湖中的數據進行表分析的架構模式。在匆匆奔向這個術語的過程中，許多廠商忽略了這樣一個事實，即數據架構的開放性是其持久性和長盛不衰的保證。

　　關于數據倉庫和數據湖

　　數據湖和數據倉庫將海量的各種類型數據統(tǒng)一到一個中心位置。但是有著截然不同的架構世界觀。數倉是為SQL分析垂直集成的，而數據湖優(yōu)先考慮SQL之外的分析方法的靈活性。

　　為了能兼得魚與熊掌——數據湖中分析的靈活性和數倉中簡單快速的SQL，企業(yè)經常部署數據湖來補充他們的數倉，在數據提取、轉換、加載(ETL)或ELT管道的最后一步讓數據湖為數倉系統(tǒng)提供數據。在這樣做的過程中，他們等于接受了數據在倉庫中的鎖定。

　　但可以有一個更好的方法：用Hive元存儲，這是過去十年數據平臺一個出人意料的好產品。隨著用例的成熟，我們看到高效的交互式BI分析和事務語義來修改數據的需求。

　　數據湖倉的迭代

　　第一代Hive元存儲試圖解決在數據湖上高效運行SQL的性能考慮。它提供了數據庫、模式和表的概念，用于描述數據湖的結構，讓BI工具可以有效地充分使用數據。它添加了描述數據邏輯和物理布局的元數據，支持基于成本的優(yōu)化器、動態(tài)分區(qū)裁剪以及針對SQL分析的一些關鍵性能改進。

　　第二代Hive元存儲添加了對使用Hive ACID的事務更新的支持。數據湖倉雖然尚未正式命名，但已開始熱鬧。事務性啟用了持續(xù)攝取和插入/更新/刪除（或合并）的用例，從而打開了數倉樣式的查詢、功能以及從其他數倉系統(tǒng)到數據湖的遷移。這對我們的許多客戶來說非常有價值。

　　Delta Lake項目采用不同的方法來解決這個問題。Delta Lake為數據湖中的數據添加了事務支持。可以進行數據策管，為數據湖帶來了運行數倉式分析的可能性。

　　漸漸的在某個時刻，“數據湖倉”這個詞因為這種架構模式而被造出來了。我們相信湖倉是簡潔地定義這種模式的好方法，并很快在客戶和行業(yè)中獲得了共識。

　　開放數據湖倉滿足互操作性需求

　　在過去幾年中，隨著新數據類型的誕生和新的數據處理引擎的出現，為了簡化分析，企業(yè)所期望的兩全其美真的需要分析引擎的靈活性。如果企業(yè)海量有價值的數據需要被管理，那么企業(yè)必須能夠開放的選擇不同的分析引擎，甚至是供應商。

　　湖倉模式在實施過程中存在一個嚴重的矛盾：雖然數據湖是開放的，但湖倉卻不是。

　　在能夠添加Impala、Spark等引擎之前，Hive元存儲一直遵循Hive為先的演進。Delta lake是Spark為主的演進；如果客戶想要自由選擇不同的引擎而不只是表格式，他們的選擇極為有限。

　　客戶從一開始就要求更多。更多格式、更多引擎、更多互操作性。今天，Hive元存儲被多個引擎和多個存儲選項使用。除了Hive和Spark，還有Presto、Impala等等。Hive元存儲是有機地演進支持這些用例，因此集成通常很復雜且容易出錯。

　　為滿足互操作性需求而設計的開放數據湖倉從根本上解決了這一架構問題。它會讓那些全押在一個平臺上的人感到不安，但社區(qū)驅動的創(chuàng)新能幫助解決現實世界的問題，以務實的方式幫助使用同類最佳工具，并克服供應商的鎖定。

　　開放湖倉Apache Iceberg的誕生

　　Apache Iceberg從一開始構建時，其目標就是在多個分析引擎在云原生規(guī)模上輕松實現互操作。這項創(chuàng)新的誕生之地Netflix需要將100 PB規(guī)模的S3數據湖構建到數倉中，這可能是最佳示例了。云原生表格式由其創(chuàng)建者開源到Apache Iceberg中。

　　Apache Iceberg真正的超級力量是它的社區(qū)。在過去三年中，Apache Iceberg社區(qū)有機地蓬勃發(fā)展，增加了一系列令人贊嘆的優(yōu)異集成：

　　數據處理和SQL引擎Hive、Impala、Spark、PrestoDB、Trino、Flink

　　多種文件格式：Parquet、AVRO、ORC

　　社區(qū)中的大型采用者：Apple、LinkedIn、Adobe、Netflix、Expedia等

　　AWS Athena、Cloudera、EMR、Snowflake、騰訊、阿里巴巴、Dremio、Starburst的托管服務

　　使這個多樣化的社區(qū)蓬勃發(fā)展的原因是數千家公司的集體需求，以確保數據湖可以演變?yōu)榘�含數據倉庫，同時保持跨引擎的分析靈活性和開放性。這使得開放式湖倉成為可能：為未來提供無限的分析靈活性。

　　Cloudera擁抱Iceberg模式

　　在Cloudera，我們?yōu)槲覀兊拈_源根基感到自豪，并致力于社區(qū)貢獻。自2021年以來，我們?yōu)槿找鎵汛蟮腎ceberg社區(qū)在Impala、Hive、Spark和Iceberg上做出了數百項貢獻。我們擴展了Hive元存儲將集成添加到我們的許多開源引擎中以充分利用Iceberg表。2022年初，我們在Cloudera Data Platform(CDP)中提供了Apache Iceberg的技術預覽，使Cloudera客戶能夠在我們的數據倉庫、數據工程和機器學習服務中實現Iceberg的模式和時間旅行能力。

　　我們的客戶一直告訴我們，無論是現代BI、AI/ML、數據科學還是更多，分析需求都在迅速發(fā)展。選擇由Apache Iceberg提供支持的開放數據湖倉讓企業(yè)可以自由選擇分析。