【論文1信息】

Jiacheng Shen, Pengfei Zuo, Xuchuan Luo, Tianyi Yang, Yuxin Su, Yangfan Zhou, Michael Lyu, “FUSES: A Fully Memory-Disaggregated Key-Value Store”, accepted and to appear in the 21st USENIX Conference on File and Storage Technologies (FAST), 2023.

【論文2信息】

Pengfei Li, Yu Hua, Pengfei Zuo, Zhangyu Chen, Jiajie Sheng, “ROLEX: A Scalable RDMA-oriented Learned Key-Value Store for Disaggregated Memory Systems”, accepted and to appear in the 21st USENIX Conference on File and Storage Technologies (FAST), 2023.

【論文1簡介】

       近年來，分布式鍵值存儲開始使用內(nèi)存分離架構(gòu)來提高其資源利用率。然而，現(xiàn)有內(nèi)存分離的鍵值存儲采用了一種部分內(nèi)存分離的設(shè)計(jì)，在元數(shù)據(jù)管理上使用了占用額外資源的單體服務(wù)器，仍然有資源利用不完全的問題。本文提出將元數(shù)據(jù)管理內(nèi)存分離化并設(shè)計(jì)了 FUSES，一個完全內(nèi)存分離的鍵值存儲系統(tǒng)，來解決現(xiàn)有內(nèi)存分離架構(gòu)下鍵值存儲的資源使用問題。FUSES允許客戶端直接訪問存儲在分離式內(nèi)存節(jié)點(diǎn)上的數(shù)據(jù)和元數(shù)據(jù)，并對數(shù)據(jù)和元數(shù)據(jù)維護(hù)副本來處理內(nèi)存分離架構(gòu)下的多種錯誤情況。FUSES提出了三項(xiàng)技術(shù)來解決在完全內(nèi)存分離架構(gòu)下的數(shù)據(jù)副本、內(nèi)存管理和元數(shù)據(jù)損壞問題。首先，F(xiàn)USES提出了一個全單邊哈希索引復(fù)制協(xié)議來支持客戶端并發(fā)訪問和修改所有的哈希索引副本。其次，F(xiàn)USES采用了兩級內(nèi)存管理方案，將內(nèi)存管理的任務(wù)分配給客戶端和內(nèi)存節(jié)點(diǎn)來進(jìn)行高效內(nèi)存分配。最后，F(xiàn)USES提出了一種嵌入式日志方案來修復(fù)損壞的元數(shù)據(jù)而不引入過多的日志維護(hù)開銷。實(shí)驗(yàn)結(jié)果表明，相比現(xiàn)有分離內(nèi)存下的鍵值存儲，F(xiàn)USES在使用更少資源的情況下在YCSB基準(zhǔn)測試上達(dá)到了4.5倍的性能提升。該論文是由來自香港中文大學(xué)的實(shí)習(xí)生沈家誠在云存儲創(chuàng)新LAB左鵬飛博士的指導(dǎo)下完成。

【論文2簡介】

       分離式內(nèi)存系統(tǒng)將傳統(tǒng)的單體服務(wù)器中的不同資源解耦成不同的部分，包括計(jì)算資源池和內(nèi)存資源池，以享受高的資源利用率、靈活的硬件可擴(kuò)展性和高效的數(shù)據(jù)共享等好處。通過利用高性能的RDMA網(wǎng)絡(luò)，計(jì)算節(jié)點(diǎn)可以直接訪問遠(yuǎn)程內(nèi)存池而不涉及遠(yuǎn)程的CPU。因此，有序鍵值 (KV) 存儲（例如 B 樹和學(xué)習(xí)型索引）可以通過高性能網(wǎng)絡(luò)來提供范圍查詢服務(wù)。然而，現(xiàn)有的有序 KV存儲無法在分離式內(nèi)存系統(tǒng)上很好地工作，因?yàn)橐聪亩啻尉W(wǎng)絡(luò)往返來搜索遠(yuǎn)程數(shù)據(jù)，要么嚴(yán)重依賴計(jì)算資源不足的內(nèi)存節(jié)點(diǎn)來處理數(shù)據(jù)修改請求。在本論文中，我們提出了具有可擴(kuò)展的面向 RDMA優(yōu)化的學(xué)習(xí)型KV 存儲，稱為 ROLEX，以在分離式內(nèi)存系統(tǒng)上實(shí)現(xiàn)高效的數(shù)據(jù)存儲和檢索。ROLEX 提出了一個重訓(xùn)練解耦的學(xué)習(xí)索引方案，通過向?qū)W習(xí)模型中添加偏差和一些數(shù)據(jù)移動約束，將模型重訓(xùn)練與數(shù)據(jù)修改操作解耦。基于這個操作解耦，我們可以通過單側(cè)RDMA原語在計(jì)算節(jié)點(diǎn)上遠(yuǎn)程執(zhí)行數(shù)據(jù)修改，從而具有高擴(kuò)展性。模型重新訓(xùn)練也從數(shù)據(jù)修改的關(guān)鍵路徑中移除了，通過使用內(nèi)存節(jié)點(diǎn)中的專用計(jì)算資源異步執(zhí)行?；赮CSB和真實(shí)工作負(fù)載的實(shí)驗(yàn)結(jié)果表明，ROLEX 在靜態(tài)工作負(fù)載上實(shí)現(xiàn)了高的性能，并且在動態(tài)工作負(fù)載上的性能比分離式內(nèi)存上最先進(jìn)的方案高出 2.2 倍。該論文是在云存儲創(chuàng)新LAB MemArts團(tuán)隊(duì)和華中科技大學(xué)華宇老師團(tuán)隊(duì)的合作項(xiàng)目中完成。

附：華為云存儲創(chuàng)新LAB在分離式內(nèi)存方向上的研究成果

1.Pengfei Zuo, Jiazhao Sun, Liu Yang, Shuangwu Zhang, Yu Hua, “One-sided RDMA-Conscious Extendible Hashing for Disaggregated Memory”, Proceedings of the USENIX Annual Technical Conference (USENIX ATC), 2021.

2.Ming Zhang, Yu Hua, Pengfei Zuo, Lurong Liu, “FORD: Fast One-sided RDMA-based Distributed Transactions for Disaggregated Persistent Memory”, Proceedings of the 20th USENIX Conference on File and Storage Technologies (FAST), 2022.

3.Pengfei Zuo*, Qihui Zhou*, Jiazhao Sun, Liu Yang, Shuangwu Zhang, Yu Hua, James Cheng, Rongfeng He, Huabing Yan, “RACE: One-Sided RDMA-Conscious Extendible Hashing”, ACM Transactions on Storage (TOS) 18.2 (2022): 1-29.

4.Jiacheng Shen, Pengfei Zuo, Xuchuan Luo, Tianyi Yang, Yuxin Su, Yangfan Zhou, Michael Lyu, “FUSES: A Fully Memory-Disaggregated Key-Value Store”, accepted and to appear in the 21st USENIX Conference on File and Storage Technologies (FAST), 2023.

5.Pengfei Li, Yu Hua, Pengfei Zuo, Zhangyu Chen, Jiajie Sheng, “ROLEX: A Scalable RDMA-oriented Learned Key-Value Store for Disaggregated Memory Systems”, accepted and to appear in the 21st USENIX Conference on File and Storage Technologies (FAST), 2023.