清華新聞網(wǎng)3月3日電 2月24日至26日，第24屆USENIX文件與存儲(chǔ)技術(shù)會(huì)議（USENIX Conference on File and Storage Technologies, FAST）在美國(guó)圣克拉拉舉行。清華大學(xué)計(jì)算機(jī)系存儲(chǔ)實(shí)驗(yàn)室研究論文“GPU檢查點(diǎn)保存和恢復(fù)的快速和輕量級(jí)方案”（GPU Checkpoint/Restore Made Fast and Lightweight）獲得杰出技術(shù)貢獻(xiàn)獎(jiǎng)。該論文第一作者為計(jì)算機(jī)系2021級(jí)博士生曾少勛，導(dǎo)師為計(jì)算機(jī)系副教授陸游游。
杰出技術(shù)貢獻(xiàn)獎(jiǎng)
該論文提出了一種快速且輕量級(jí)的GPU檢查點(diǎn)保存和恢復(fù)方案GCR，通過(guò)分離數(shù)據(jù)路徑與控制路徑，提出GPU的增量式檢查點(diǎn)技術(shù)，高效支撐了多種現(xiàn)代GPU負(fù)載的關(guān)鍵應(yīng)用場(chǎng)景，包括彈性GPU任務(wù)快速擴(kuò)展、GPU多任務(wù)切換、容錯(cuò)的GPU計(jì)算等，對(duì)于提升GPU集群整體利用率具有重要意義。GCR支持vLLM、DeepSpeed、Transformers等主流框架和多種型號(hào)的GPU，在幾乎不影響應(yīng)用正常執(zhí)行（性能干擾低于1%）的前提下，該方案可將檢查點(diǎn)保存延遲降低至原來(lái)的28%，恢復(fù)延遲降低至13%。該論文還實(shí)現(xiàn)了高質(zhì)量開(kāi)源，其在功能完備性、性能可復(fù)現(xiàn)性等方面均展現(xiàn)出了高水準(zhǔn)。
FAST（File and Storage Technologies）是計(jì)算機(jī)存儲(chǔ)領(lǐng)域的頂級(jí)學(xué)術(shù)會(huì)議，是中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）推薦的A類(lèi)會(huì)議。
供稿：計(jì)算機(jī)系
編輯：劉芳芳
審核：郭玲
