大家好呀!這里是愛學(xué)習(xí)的 Guide!今天給大家科普一個(gè)速度快到飛起的數(shù)據(jù)庫——。
你可能沒有用過 ,但是一定聽過它的名字。
為了拓展一下自己的知識(shí)面,前段時(shí)間,我找到了 《 原理解析和應(yīng)用實(shí)踐》這本書來看。寫的真心不錯(cuò)!
這篇文章我簡(jiǎn)單從一個(gè) 初學(xué)者的角度,給小伙伴們科普一下 OLAP、OLTP 以及 的前世今生和應(yīng)用場(chǎng)景。
個(gè)人能力有限。如果文章有任何需要補(bǔ)充/完善/修改的地方,歡迎在評(píng)論區(qū)指出,共同進(jìn)步!
OLAP 介紹
為了將企業(yè)的數(shù)據(jù)有效整合,快速制作出報(bào)表以供數(shù)據(jù)分析/決策使用,誕生了一個(gè)叫做 OLAP( ,聯(lián)機(jī)分析處理)系統(tǒng)的概念,也叫做現(xiàn)代 BI( ,商業(yè)智能)系統(tǒng)。
與 OLAP 相對(duì)應(yīng)的還有一個(gè)叫做 OLTP( ,聯(lián)機(jī)事務(wù)處理)的概念。這個(gè)我們平時(shí)日常接觸的就比較多了,像企業(yè)的 ERP,CRM,OA 等系統(tǒng)都屬于 OLTP 系統(tǒng)。
OLTP & OLAP
簡(jiǎn)單總結(jié)一下:
數(shù)據(jù)倉庫
OLAP 系統(tǒng)一般以數(shù)據(jù)倉庫作為基礎(chǔ)。數(shù)據(jù)倉庫是為了將分散的數(shù)據(jù)匯聚到一處,將它們統(tǒng)一存儲(chǔ)起來。
數(shù)據(jù)倉庫的構(gòu)建通常還會(huì)涉及到 ETL 的過程。ETL 即數(shù)據(jù)抽取()、轉(zhuǎn)換()、裝載(Load)。
下面這張圖片來自:What is a Data ? | IBM[1]
大部分用于 OLTP 的數(shù)據(jù)庫都可以執(zhí)行 OLAP 相關(guān)的操作,只不過,效率通常都比較低,畢竟, 這不是它們所擅長(zhǎng)的地方。
OLAP 分類
主流的 OLAP 可以分為 3 類 ROLAP、MOLAP、HOLAP。
ROLAP ( OLAP,關(guān)系型 OLAP )
對(duì)數(shù)據(jù)不進(jìn)行預(yù)處理數(shù)據(jù)庫系統(tǒng)概念英文版,實(shí)時(shí)聚合計(jì)算,靈活性更好!適用于 對(duì)查詢模式不固定、查詢靈活性要求高的場(chǎng)景。常見的 ROLAP 有 ,, 等等。
MOLAP ( Multi- OLAP ,多維 OLAP)
會(huì)對(duì)數(shù)據(jù)預(yù)處理,這提高了查詢性能,同時(shí)也降低了靈活性。適用于查詢場(chǎng)景相對(duì)固定并且對(duì)查詢性能要求非常高的場(chǎng)景。常見的 MOLAP 有 Druid數(shù)據(jù)庫系統(tǒng)概念英文版,Kylin,Doris 等等。
HOLAP ( OLAP ,混合型 OLAP)
混合類型 OLAP。通常情況下,查詢聚合性數(shù)據(jù)的時(shí)候,使用 MOLAP 技術(shù);當(dāng)查詢明細(xì)數(shù)據(jù)時(shí),使用 ROLAP 技術(shù)。在給定使用場(chǎng)景的前提下,以達(dá)到查詢性能的最優(yōu)化。
相關(guān)閱讀推薦:《什么是 OLAP?主流八大開源 OLAP 技術(shù)架構(gòu)對(duì)比》[2]
簡(jiǎn)介
是 (俄羅斯的一家做搜索引擎的公司)公司的一個(gè)產(chǎn)品,誕生于自家的在線流量分析產(chǎn)品—.。
根據(jù) 官方文檔[3]介紹: 是一個(gè)用于聯(lián)機(jī)分析(OLAP)的 MPP 架構(gòu)的列式數(shù)據(jù)庫管理系統(tǒng)(DBMS)。
目前的話,國內(nèi)有很多公司都在使用 ,比如騰訊、字節(jié)、金數(shù)據(jù)、B 站。
下面是騰訊音樂對(duì) 實(shí)踐:
地址: 。
騰訊云云數(shù)據(jù)庫倉庫前世今生
其實(shí), 的誕生也是一步一步改進(jìn)現(xiàn)有系統(tǒng)之后得到的產(chǎn)物!
. 的第一版架構(gòu)其實(shí)是基于 MySQL(ROLAP) 來做的。
后來,這一版架構(gòu)出現(xiàn)了瓶頸,數(shù)據(jù)量過多(5800 億)導(dǎo)致分析報(bào)告的耗費(fèi)時(shí)間過長(zhǎng)。即使對(duì)這一版架構(gòu)進(jìn)行了大量?jī)?yōu)化之后,耗費(fèi)時(shí)間也僅僅是提高到了 26 秒。
于是,. 的研發(fā)團(tuán)隊(duì)開始另辟蹊徑了!
他們自研了一個(gè)叫做 (MOLAP) 的新系統(tǒng)。 的架構(gòu)設(shè)計(jì)和 MySQl 差別很大,就比如它使用的是 LSM 樹作為索引結(jié)構(gòu)而不是 B+ 樹。
雖然解決了性能問題,但是,產(chǎn)品方面又有了新的需求。
只支持聚合數(shù)據(jù)查詢,因此只有固定的報(bào)表分析功能,非常不靈活。我們希望可以有一個(gè)系統(tǒng)支持處理自定義報(bào)告這類。
于是,. 又自主研發(fā)出了 (HOLAP) 系統(tǒng)。并且, 使用 SQL 作為查詢語言。
系統(tǒng)專為非聚合數(shù)據(jù)使用,實(shí)時(shí)聚合性能非常強(qiáng)!
不過, 也有缺陷比如缺少對(duì)數(shù)據(jù)類型的支持(只支持一種數(shù)據(jù)類型)。并且,功能也比較簡(jiǎn)陋,僅僅支持一些簡(jiǎn)單的功能,并沒有一個(gè) DBMS 應(yīng)該有的基本管理功能比如 DDL 查詢。
于是,. 繼續(xù)在 的基礎(chǔ)上進(jìn)一步完善,最終打造出了 (ROLAP)。
為什么這么快?
官方給出了一份非常詳細(xì)的 性能測(cè)試圖,并提供了和其他常見數(shù)據(jù)庫的對(duì)比。
性能報(bào)告地址: 。
通過這份報(bào)告,可以非常直觀地感受到 到底是有多快!
這么說吧, 在相同的服務(wù)器配置與數(shù)據(jù)量(1000 萬)下,平均響應(yīng)速度是 MySQL 的 400 多倍,當(dāng)數(shù)據(jù)量達(dá)到 1 億的話,平均響應(yīng)速度是 MySQL 的 800 多倍。
不談具體的技術(shù)與架構(gòu), 之所以能夠這么快主要得益于下面幾點(diǎn)(結(jié)合《 原理解析與應(yīng)用實(shí)踐》所做的總結(jié)):
適用場(chǎng)景
雖然性能很強(qiáng),查詢速度和 MySQL 這類關(guān)系型數(shù)據(jù)庫完全不是一個(gè)量級(jí)。
但是, 并不可以取代 MySQL 這類關(guān)系型數(shù)據(jù)庫,它們是互補(bǔ)的關(guān)系。
作為一款 OLAP 數(shù)據(jù)庫,其應(yīng)用場(chǎng)景主要就是數(shù)據(jù)分析比如廣告流量分析,不適用于 OLTP 事務(wù)性操作的場(chǎng)景,因?yàn)椋恢С质聞?wù)并且對(duì)按行刪除數(shù)據(jù)不夠友好!