在華為全聯接2021上,鯤鵬應用使能套件BoostKit(以下簡稱“鯤鵬BoostKit”)正式升級為2.0,提供 “數據親和”加速組件,對數據全處理流程進行負載優化,從而大幅提升應用性能。本期由華為計算產品線算法專家陳澤暉和何智文向大家展示鯤鵬BoostKit 2.0分布式存儲全局緩存(Global Cache)特性如何做到數據存儲和處理的倍數級加速能力。
在摩爾定律的驅使下,計算能力倍數級增長,但數據傳輸速度過慢導致大量計算資源浪費,也限制了系統性能發揮。例如,在金融行業,銀行逐步采用AI技術對客戶信息、遠程開戶錄像、客服中心語音、企業資料等數據進行挖掘與利用,對海量文件的讀寫會占用大量計算資源,導致業務處理效率降低。
原生Ceph IO請求的處理路徑長,導致IO時延高,用戶數據讀寫時間長
鯤鵬BoostKit分布式存儲全局緩存應運而生,通過緩存前后臺分離、IO聚合、智能預取三大創新技術實現典型讀寫場景IOPS提升10倍,IO時延降低90%,意味著同樣時間內銀行處理的交易筆數提升10倍,而且每筆交易處理時長降低90%!
測試模型:4K IO,7:3混合隨機讀寫;硬件配置:256GB內存,25GE網絡,每節點12 * 8TB SATA HDD,2 * 3.2TB NVMe SSD
下面帶你1分鐘get三大創新技術:
1. 緩存前后臺分離——縮短數據處理路徑:降低IO請求的線程數量,上層應用只需要將數據寫入到緩存池或從緩存池中讀取即可響應用戶請求。
在數據寫入場景,數據到寫緩存后就可以給上層應用返回數據寫入成功,無需與后臺Ceph存儲集群等分布式存儲軟件交互,用戶業務應用無感知
2. 智能預取——讀加速:將數據提前加載至讀緩存,實現80%以上緩存命中率和2倍以上讀性能加速。
基于IO數據統計,智能分析IO模型特征,實現緩存命中率大幅提升
3. IO聚合——寫加速:技術通過批量數據聚合,實現全周期隨機寫入轉順序寫入,實現滿帶寬性能。
在緩存中把各種大小的數據塊聚合成以8M為單位的大數據塊,從隨機小IO轉變成順序大IO寫入后端Ceph等分布式存儲集群
此外,BoostKit全局緩存面向鯤鵬生態,結合硬件特點開展軟硬協同優化,如CPU親和、NUMA親和等,進一步達到“數據親和”,在不增加硬件成本的前提下,全局緩存面向全命中和真實業務負載提供2~10倍端到端讀寫性能加速能力。
原文標題:BoostKit干貨店|同樣硬件,Ceph存儲性能提升10倍
文章出處:【微信公眾號:華為計算】歡迎添加關注!文章轉載請注明出處。
-
華為
+關注
關注
216文章
34526瀏覽量
252560 -
數據存儲
+關注
關注
5文章
979瀏覽量
50997 -
ai技術
+關注
關注
1文章
1289瀏覽量
24394
原文標題:BoostKit干貨店|同樣硬件,Ceph存儲性能提升10倍
文章出處:【微信號:gh_3a181fa836b6,微信公眾號:華為計算】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論