建站
咨詢
售后
建站咨詢
新聞中心
LAS 服務(wù)是什么？LAS 有哪些優(yōu)化特性？本文將從基礎(chǔ)概念、數(shù)據(jù)庫內(nèi)核特性優(yōu)化、數(shù)據(jù)服務(wù)化、業(yè)務(wù)實踐等角度全方位介紹湖倉一體架構(gòu)在LAS的探索與實踐。
LAS服務(wù)是什么？
在了解 Las 服務(wù)是什么之前，先來了解一下數(shù)據(jù)平臺整體行業(yè)的發(fā)展趨勢，大概分為三個階段。
第一階段，一般被稱為傳統(tǒng)數(shù)倉，一種從 1980 年開始的基于傳統(tǒng)數(shù)據(jù)庫技術(shù)來做的 BI 分析場景。在這種架構(gòu)下，通常計算和存儲是高度一體的。整體系統(tǒng)能支撐的計算能力，依賴于服務(wù)提供商的硬件配置，整體成本高，存在物理上限，擴展起來比較麻煩。
第二階段，隨著技術(shù)的演進， 2010 年開始出現(xiàn)了以 Hadoop 技術(shù)體系為主流的傳統(tǒng)數(shù)據(jù)湖。在以 Hadoop 技術(shù)為主的數(shù)據(jù)平臺架構(gòu)下，通常可以支持服務(wù)在普通硬件上面去部署，整體的計算和存儲的擴展性都得到了解決?；陂_源技術(shù)生態(tài)，多個大型公司也參與到數(shù)據(jù)湖技術(shù)發(fā)展中來，整體生態(tài)繁榮度也在逐步提升。
但在這一階段凸顯出了一個問題，隨著生態(tài)技術(shù)的發(fā)展，越來越多的開源組件開始累積。對于一個企業(yè)來說，為了解決不同領(lǐng)域的問題，需要運維多個開源的組件，來滿足不同領(lǐng)域的數(shù)據(jù)需求，就導致整個企業(yè)的技術(shù)運維成本逐步提升。
基于這個問題，隨著技術(shù)的進一步發(fā)展，在 2020 年，湖倉一體的架構(gòu)開始被提出。
相比起傳統(tǒng)數(shù)據(jù)湖，湖倉一體架構(gòu)支持原生的 ACID 能力，支持像 BI 分析、報表分析，機器學習和流式分析多種類型的計算范式，以及云上的對象存儲和彈性計算能力。以上能力，讓湖倉一體架構(gòu)能夠有效地去解決企業(yè)的對數(shù)據(jù)規(guī)模，以及對計算能力的彈性伸縮需求。同時，湖倉一體可以在很大程度上規(guī)避傳統(tǒng) Lambda 架構(gòu)存在的多個計算組件，或者多種架構(gòu)范式導致的架構(gòu)負擔，讓企業(yè)能夠更專注地去解決他們的業(yè)務(wù)價值。
LAS 就是基于湖倉一體的架構(gòu)進行設(shè)計的。從上圖來看，LAS 架構(gòu)整體上分為三個部分。最上層是開發(fā)工具層，開發(fā)工具層會通過計算層提供的統(tǒng)一 SQL 訪問服務(wù)去訪問計算層，根據(jù)用戶的 SQL 類型自動做 SQL 解析。所有引擎計算能力統(tǒng)一由彈性容器服務(wù)來提供，可以支持彈性伸縮，按需使用。
再往下就是湖倉一體的存儲層。首先，湖倉一體存儲會通過統(tǒng)一的元數(shù)據(jù)服務(wù)，向計算層提供統(tǒng)一的元數(shù)據(jù)視圖，屏蔽底層的具體元數(shù)據(jù)實現(xiàn)細節(jié)，可以使多個引擎無縫對接到統(tǒng)一的元數(shù)據(jù)服務(wù)。
接下來是湖倉存儲引擎，它主要提供了事務(wù)管理能力，也就是 ACID 的能力，以及對數(shù)據(jù)批流一體的讀寫能力。
再往下就是 LAS 基于火山引擎對象存儲服務(wù) TOS 和 CloudFS ，來提供 EB 級的數(shù)據(jù)存儲能力和數(shù)據(jù)訪問的緩存加速能力。
以上就是 LAS 整體的技術(shù)架構(gòu)。
LAS 數(shù)據(jù)湖內(nèi)核剖析
這一版塊將向大家呈現(xiàn) LAS 數(shù)據(jù)湖內(nèi)核的特性及優(yōu)化。
LAS 的數(shù)據(jù)湖內(nèi)核—— ByteLake 它是什么？
首先，ByteLake 是基于開源 Apache Hudi 進行內(nèi)部增強的湖倉一體存儲引擎，提供湖倉一體的存儲能力。
它的第一個主要能力是提供了湖倉統(tǒng)一的元數(shù)據(jù)服務(wù)，完全兼容開源的 Hive Metastore，可以無縫對接多種計算引擎。第二個主要能力是可以支持對海量數(shù)據(jù)的 Insert，完全兼容 Hive SQL，可以平遷傳統(tǒng)數(shù)倉場景下的 Hive 任務(wù)。第三，ByteLake 支持對大規(guī)模歷史數(shù)據(jù)的 Update 和 Delete，以及對新增數(shù)據(jù)的 Upsert 和 Append 能力。最后，ByteLake 支持流批一體的讀寫能力，提供流式讀寫的 source 和 sink，支持近實時分析。
ByteLake 又是怎么做到這些能力的呢？接下來從以下幾個特性來展開闡述。
如何實現(xiàn)高效數(shù)據(jù)更新？
第一個場景是流式寫入更新場景。在這種場景下，最明顯的特點就是小批量數(shù)據(jù)頻繁寫入更新。但主要的問題是如何去定位要寫入的記錄呢？是做 update 操作還是 insert 操作？
在這樣的背景下，ByteLake 提供了一種 Bucket Index 的索引實現(xiàn)方案。
這是基于哈希的一種索引實現(xiàn)方案。它可以快速地去定位一條記錄所對應(yīng)的 Fail Group，從而快速定位當前記錄是否已經(jīng)存在，來判斷這一條記錄是做 Update 還是做 Insert 操作，從而可以快速地將這種小規(guī)模的數(shù)據(jù)去添加到 Append Log。在讀取時，通過 Compaction 就可以將 LogFile 和 BaseFile 里邊的數(shù)據(jù)進行 Merge 去重，從而達到數(shù)據(jù)更新的效果。
針對日志數(shù)據(jù)入湖，通常來說是不需要主鍵的，這種基于 Hash 索引的實現(xiàn)方式，是需要有 Shuffle 操作的。因為在基于 Hash 的索引實現(xiàn)中，當一批數(shù)據(jù)過來之后，會根據(jù)這一批數(shù)據(jù)去找分別對應(yīng)的 File Group，再基于 File Group 去聚合要更新的這些數(shù)據(jù)，通過同一個 Task，去更新同一個 File Group 來實現(xiàn)原子寫入。
在數(shù)據(jù) Shuffle 的過程，其實對于數(shù)據(jù)湖日志寫入是有額外的開銷的，但 ByteLake 提供了一種 Non index 的實現(xiàn)方案，去掉了索引的約束，可以減少數(shù)據(jù) Shuffle 的過程，從而達到快速入湖的能力。
存量數(shù)據(jù)如何高效更新?
存量數(shù)據(jù)，一大特點就是數(shù)據(jù)量大，單表的規(guī)?？赡苡袔装?TB ，甚至到 PB 的級別。針對于這種大規(guī)模的歷史數(shù)據(jù)的更新場景，如何去提升更新性能？其實最主要的就是要如何去降低數(shù)據(jù)更新的規(guī)模。
基于此，ByteLake 提出了一種實現(xiàn)方案——Column Family，將單表多列的場景分別存儲到不同列簇。不同的文件可以基于 Row Number 進行聚合，合并后就是一個完整的行。如果要更新歷史數(shù)據(jù)，只需要去找到要更新的那些列對應(yīng)的 Column Family 對應(yīng)的文件，把這些文件做一些局部更新，就可以達到整體更新的效果。從而在很大程度上減少這些非必要數(shù)據(jù)的掃描，提升存量歷史數(shù)據(jù)更新場景的性能。
如何提升并發(fā)性能？
談到并發(fā)，通常會有兩部分內(nèi)容。比如有很多個任務(wù)同時去往 ByteLake 引擎里邊寫數(shù)據(jù)，這就意味著有大批量的任務(wù)去訪問 ByteLake 的 MetaStore Service。在這種場景下，ByteLake MetaStore Service 就會成為一個性能瓶頸。
為了突破這個瓶頸，除了無限的堆加資源之外，另一個比較有效的方案就是增加緩存。通過元數(shù)據(jù)服務(wù)端去緩存比較熱點的數(shù)據(jù)，比如 Commit Metadata 和 Table Metadata，來達到服務(wù)端的性能提升。
另外一塊，是在引擎?zhèn)茸鰞?yōu)化。比如在 Flink 引擎層面將 Timeline 的讀取優(yōu)化到 JobManager 端。同一個任務(wù)下，只要 JobManager 去訪問 Hive ByteLake MetaStore Service，緩存到 JobManager 的本地之后，所有的 TaskManager 只要去訪問 JobManager 本身緩存的 Timeline 信息就可以了。
從單個任務(wù)的視角來看，比如多個任務(wù)要同時去更新同一張表，這種情況下要保證數(shù)據(jù)的正確性，同時又能保證并發(fā)性能，應(yīng)該如何來做？ByteLake 提供的解決方案——基于樂觀鎖的一個并發(fā)控制。
針對多任務(wù)寫同一個表的場景，ByteLake 可以支持多種并發(fā)策略的設(shè)置。業(yè)務(wù)可以根據(jù)對數(shù)據(jù)一致性的要求，以及對數(shù)據(jù)并發(fā)性能的要求，選擇靈活的并發(fā)策略，來達到它的數(shù)據(jù)并發(fā)寫入的性能指標。
LAS 數(shù)據(jù)湖服務(wù)化設(shè)計
這個版塊將向大家呈現(xiàn) ByteLake 服務(wù)化過程中的一些設(shè)計實踐。
CatalogService ：統(tǒng)一的元數(shù)據(jù)視圖
CatalogService 主要提供了與 HMS 的兼容接口，同時為所有的查詢引擎提供了統(tǒng)一的元數(shù)據(jù)視圖，解決了異構(gòu)數(shù)據(jù)源的元數(shù)據(jù)管理問題。
CatalogService 整體分三層，第一層是 Catalog Federation，提供統(tǒng)一的視圖和跨地域的數(shù)據(jù)訪問能力。以及提供了對源數(shù)據(jù)請求的路由能力，可以根據(jù)元數(shù)據(jù)請求的類型，支持通過 Mapping 的方式，來路由不同的服務(wù)請求對應(yīng)的底層元數(shù)據(jù)服務(wù)實例。
第二層是 CatalogService 下層的具體元數(shù)據(jù)服務(wù)的實現(xiàn)，比如 Hive MetaStore Service 以及 ByteLake MetaStore Service 等。可能還有不同的元數(shù)據(jù)服務(wù)對接到 CatalogService，來統(tǒng)一向上層引擎提供這種元數(shù)據(jù)服務(wù)。
最后一層是 MetaStore 的存儲層，它通過插件式的方式來提供不同的存儲引擎，來滿足上層不同元數(shù)據(jù)服務(wù)實例的存儲要求。
BMS 詳解
湖倉一體元數(shù)據(jù)管理服務(wù)
Bytelake MetaStore Service，簡稱 BMS，它是一個湖倉一體的元數(shù)據(jù)管理服務(wù)，整體的架構(gòu)分為以下幾個部分。首先第一個就是 Catalog，Catalog 是對單表的元數(shù)據(jù)訪問的抽象。主要邏輯是通過 MetaStore Client 來訪問 Meta Server，同時它會去緩存單表的 Schema 信息以及屬性等信息。
另外一部分就是 Meta Server，也就是 BMS 里邊最核心的部分。它主要是包含兩大部分服務(wù)層，第一是 Bytelake MetaStore 元數(shù)據(jù)服務(wù)模型，比如 Table Service，Timeline Service，Partition Service 和 Snapshot Service。存儲層提供了 MetaStore 所有元數(shù)據(jù)的存儲能力。最后一部分就是 Eventbus， Eventbus 主要目的是為了將元數(shù)據(jù)的 CUD 事件發(fā)送給監(jiān)聽者，來達到元數(shù)據(jù)信息的分發(fā)和同步。
元數(shù)據(jù)寫入流程
關(guān)于元數(shù)據(jù)寫入流程，簡單來講，當有一個 Client 去提交了 Instant 之后，Bytelake Catalog 會去訪問 Bytelake Meta Store 的接口，會將 Instance 改成 Completed，然后將請求發(fā)到 Bytelake 的 MetaStore，之后 Bytelake MetaStore Server 會做一個原子提交。
在此之后，Timeline Service 會把提交的狀態(tài)更新到數(shù)據(jù)庫里邊。接下來這些分區(qū)信息將再被提交給 Partition Service，同步到對應(yīng)的分區(qū)存儲表里去。最后一步，把這些所有的變更作為一個快照，同步到 Snapshot Service 里，它會把文件層面的變更存儲到數(shù)據(jù)庫里，做持久化存儲。
元數(shù)據(jù)讀取流程
對于源數(shù)據(jù)的讀取流程，舉個例子，有一個計算引擎它讀取了一個 SQL，通過 SQL 解析拿到一張表，這張表會通過Bytelake Catalog Service去請求Bytelake MetaStore，最終會路由到 Table Service 拿到這些表的信息。
拿到表的信息做 SQL Plan 優(yōu)化的時候，會做一些分區(qū)的下推或裁剪。這個時候會去請求到 Bytelake 的 Partition Service 做過濾，接著會根據(jù)分區(qū)信息去掃描文件，在此過程中會去請求 Timeline Service 獲取對應(yīng)的 Timeline 信息。接下來，基于 Timeline 的信息時間去 Snapshot Service 拿到對應(yīng)文件，再通過 SQL 執(zhí)行器來實現(xiàn)數(shù)據(jù)文件的讀取。
元數(shù)據(jù)變更通知
元數(shù)據(jù)變更通知具體的實現(xiàn)流程主要依托于兩個部分。
一是 Eventbus，二是 listener。所有的元數(shù)據(jù)請求都會發(fā)送到 Eventbus，由 Eventbus 分發(fā)事件到所有已經(jīng)注冊的 Listener 上面。listener 再根據(jù)下游系統(tǒng)的需求，去訂閱 Eventbus 里邊的對應(yīng)事件類型進行響應(yīng)，從而達到讓上下游的組件感知到元數(shù)據(jù)的變化，實現(xiàn)元數(shù)據(jù)的同步。
TMS 詳解：
統(tǒng)一表管理服務(wù)
LAS 的另外一個服務(wù)——TMS，全稱是 Table Management Service。它主要解決的問題是異步任務(wù)的托管優(yōu)化。為什么會做異步任務(wù)的托管優(yōu)化？因為正常來講，F(xiàn)linker SQL 任務(wù)寫 ByteLake 表的過程，其實就是把批量的數(shù)據(jù)寫入下游表里邊去。隨著時間的推移，一個是 Commit 的日志非常多，另外一個是小文件非常多。通常的 Flink 引擎層面的實現(xiàn)方案，是在數(shù)據(jù)寫了一定的次數(shù)后，追加一個 Compaction 操作，把之前寫入的文件做一個壓縮。
但針對流式任務(wù)去做 Compaction，對正常的流式任務(wù)穩(wěn)定性有很大影響，因為壓縮本身是一個開銷比較大的動作，對流式計算資源的消耗是很難去評估的，會導致整個流式寫入任務(wù)的波動，從而影響流式寫入任務(wù)的穩(wěn)定性。
基于此，LAS 提供了一個統(tǒng)一的表管理服務(wù)，異步托管這些本身內(nèi)置到引擎內(nèi)部的任務(wù)，統(tǒng)一由 Table Management Service 來托管。它整體的架構(gòu)是一個主從架構(gòu)，主要包含的組件一個是 Event Receiver，用來接收 Metastore 下發(fā)的一個 Event。PlanGenerator 就是根據(jù) Meta store Server 下發(fā)的 Event 信息，來觸發(fā) Action Plan 的生成。
什么是 Action Plan？簡單講，就是這一次要做哪些事情，比如你要做一個壓縮任務(wù)，還是做一次歷史文件的清理，還是做一些小文件的合并，都稱為 Action Plan。Job Scheduler 就是去調(diào)度需要被執(zhí)行的 Acting Plan。
什么是 Job Manager？它主要用于和集群交互，比如 Yarn 或 K8S，管理 Action Plan 對應(yīng)的執(zhí)行任務(wù)，做一些任務(wù)運維層面的工作。
執(zhí)行計劃生成
就執(zhí)行計劃生成展開來講，Plan Generator 會接收 Metastore 下發(fā)的一些事件，根據(jù)用戶在表的 DDL 里的配置策略，來決定是否要生成執(zhí)行計劃。
這個策略通常會有幾種，比如，一種基于它 Delta Commit 的數(shù)量，連續(xù)提交了多次達到了一定的閾值，就會觸發(fā)一個 Action Plan 的生成，來做一次數(shù)據(jù)的壓縮。另外一種，是根據(jù) Log File 的大小，來判斷 Compaction 操作是否需要執(zhí)行。PlanGenerator 策略會根據(jù)當前 Log File 的 Meta 信息，來決定是否要觸發(fā) Action Plan 的生成。
執(zhí)行計劃調(diào)度管理
執(zhí)行計劃生成結(jié)束之后，最后一步就是怎么去調(diào)度管理執(zhí)行計劃。執(zhí)行計劃調(diào)度的核心流程主要由 Job Scheduler 來做，Job Scheduler 會定時地去輪詢已經(jīng)生成的 Action Plan，再分發(fā)給 Job Manager。Job Manager 拿到了 Action Plan 之后，會到集群上提交一個任務(wù)，同時不斷去輪詢?nèi)蝿?wù)的狀態(tài)，更新任務(wù)的狀態(tài)到數(shù)據(jù)庫，保證 Action Plan 執(zhí)行的可靠性和穩(wěn)定性。通常 JobScheduler 一般會有先進先出的調(diào)度策略，來保證 Action Plan 達到預期調(diào)度效果。
LAS 在字節(jié)跳動的業(yè)務(wù)實踐?
抖音電商在湖倉一體架構(gòu)下的業(yè)務(wù)實踐
抖音電商的業(yè)務(wù)場景，主要是營銷大促、流量診斷以及物流狀態(tài)的監(jiān)控。他們的業(yè)務(wù)痛點是什么？數(shù)據(jù)量大，計算邏輯復雜，同質(zhì)數(shù)據(jù)源也比較多，寬表的構(gòu)建成本比較高，包括一些其他的技術(shù)問題。還有一個痛點就是計算周期長，增量計算成本比較高。
基于 LAS 湖倉一體架構(gòu)下，可以解決哪些問題呢？
首先，通過 LAS 快數(shù)據(jù)入湖能力，可以解決多數(shù)據(jù)源的快速入湖。把外部的業(yè)務(wù)系統(tǒng)和業(yè)務(wù)日志，通過 LAS 這種實時入湖能力快速導入到 ODS 層。通過離線數(shù)倉可以直接引用 ODS 層的準實時入庫數(shù)據(jù)，來達到離線數(shù)倉的日增量數(shù)據(jù)，同步提升數(shù)據(jù)的時效性。
其次，實時數(shù)倉中 DW 層的一些明細數(shù)據(jù)，也可以通過流式入湖的能力，直接導入到 ByteLake，達到數(shù)據(jù)復用的目的。當把這些數(shù)據(jù)導到了 ByteLake 之后，針對大寬表場景，就可以基于 ByteLake 的多流拼接能力，直接在底層的存儲引擎層，實現(xiàn)寬表的構(gòu)建。從而解決在常規(guī)場景下，通過 Flink SQL 做多源或多流 join，導致的任務(wù)狀態(tài)比較大，或者任務(wù)處理復雜度比較高的這種穩(wěn)定性問題，從而更好地去保障業(yè)務(wù)數(shù)據(jù)的及時性和穩(wěn)定性。
消費行業(yè)傳統(tǒng)數(shù)倉架構(gòu)升級
消費行業(yè)的客戶場景，實際就是在零售場景下的財務(wù)管理、庫存管理相關(guān)的一些計算場景?？蛻舻膶崿F(xiàn)方案基于傳統(tǒng)的數(shù)據(jù)庫，業(yè)務(wù)和離線分析的請求都是統(tǒng)一在一個傳統(tǒng)數(shù)據(jù)庫上邊來做的。
在這種場景下，其實整個 RDBMS 要同時承接業(yè)務(wù)處理邏輯和離線 ETL 分析邏輯。隨著業(yè)務(wù)數(shù)據(jù)量的增長，很快就會發(fā)現(xiàn)傳統(tǒng)數(shù)據(jù)庫的計算能力和存儲支撐能力達到了上限，導致計算能力不足，擴展性比較差，無法在滿足后續(xù)的業(yè)務(wù)數(shù)據(jù)規(guī)模的上量。
LAS 針對這種場景的解決方案，是將客戶的離線 ETL 的分析場景，通過實時集成的方式直接導入到 LAS 里邊，通過 LAS 的彈性計算能力，為用戶的 ETL 分析場景提供有效的算力保障。在滿足客戶低成本約束的情況下，達到客戶預期的計算效果，和對數(shù)據(jù)產(chǎn)出的及時性的要求。同時會通過云上的 ByteHouse 服務(wù)來解決客戶自建的 CK 的運維成本以及性能調(diào)優(yōu)的問題。優(yōu)化了原有的基于 RDBMS 的數(shù)據(jù)鏈路，保證業(yè)務(wù)數(shù)據(jù)量快速增長的同時，滿足它的底層的算力要求。
湖倉一體架構(gòu)下的批流融合計算
典型場景就是數(shù)據(jù)實時入湖，客戶的數(shù)據(jù)源會通過 Flink SQL 持續(xù)地去寫入到 LAS 的 Bytelake 表里。但下游如果是一個離線任務(wù)，其實用戶沒辦法很便利地去判斷數(shù)據(jù)寫到了哪個位置，或者分區(qū)數(shù)據(jù)現(xiàn)在是不是已經(jīng)完備的。
如果僅依賴系統(tǒng)時間來實現(xiàn)，比如在上游的這種 Flink SQL 任務(wù)，在寫入過程正常時倒沒有特別大的問題。但是一旦上游 Flink SQL 任務(wù)出現(xiàn)一些數(shù)據(jù)積壓或者任務(wù)異常的場景，下游依賴系統(tǒng)時間去調(diào)度，就會存在某些分區(qū)會出現(xiàn)數(shù)據(jù)空洞或數(shù)據(jù)偏移的問題。例如本來數(shù)據(jù)應(yīng)該落在 7 點的分區(qū)，因為上游的這些 SQL 任務(wù)的消費延遲，導致 7 點的數(shù)據(jù)并沒有準時地落下來, 導致下游去消費 7 點的數(shù)據(jù)的時候，拿到的是一個不完整的數(shù)據(jù)，導致出現(xiàn)數(shù)據(jù)空洞或數(shù)據(jù)偏移的問題。
針對這種場景，LAS 提供了一種叫歸檔的能力，也就是在 Flink SQL 寫入的過程中，會基于業(yè)務(wù)事件時間實時寫入對應(yīng)的數(shù)據(jù)分區(qū)。通過 ByteLake 提供歸檔能力，分區(qū)數(shù)據(jù)就緒后，可自動生成一個歸檔標簽。下游的 spark SQL 任務(wù)可以根據(jù)分區(qū)是否有歸檔標簽，來判斷對應(yīng)分區(qū)的數(shù)據(jù)是否就緒，來決定當前離線任務(wù)是不是要調(diào)度起來。
這項能力的實現(xiàn)邏輯，其實就是 Flink SQL 每次去提交一個 Commit 的時候，會去判斷當前提交的業(yè)務(wù)的事件時間，是否比當前的未提交分區(qū)的時間超過了某一個閾值。比如當前分區(qū)的時間是 7 點，F(xiàn)link SQL 在持續(xù)提交微批數(shù)據(jù)的時候，它判斷出來當前的最小的業(yè)務(wù)時間已經(jīng)到 7 點半了，而業(yè)務(wù)定義的可容忍的延遲間隔是 15 分鐘， ByteLake 認為這個數(shù)據(jù)其實已經(jīng)寫完了，就會把 7 點的分區(qū)數(shù)據(jù)打上一個歸檔標簽，來標示數(shù)據(jù)已經(jīng)完成了。下游就可以去正常地去消費 7 點的分區(qū)數(shù)據(jù)，從而保證數(shù)據(jù)的完整性。
在提供了這種歸檔能力的情況下，LAS 的整體計算鏈路就可以實現(xiàn)批流融合。比如 ODS 的 ByteLake 表是一個準實時的表，下層的 Spark SQL 任務(wù)可以直接通過 Spark ETL 去做處理，產(chǎn)出一個離線表?？赡芎筮呥€會有一些 SQL 場景依賴離線表做數(shù)據(jù)的準實時消費。在這種情況下，F(xiàn)link SQL 會再生成一張 ByteLake 表，這張表同樣可以被下游的 Spark SQL 的離線任務(wù)依賴，從而達到在整個 Pipeline 里，做到批流計算相互融合的狀態(tài)。
標題名稱：湖倉一體架構(gòu)在火山引擎LAS的探索與實踐
文章出自：http://www.fisionsoft.com.cn/article/djdjdcs.html
