恭喜四川邊緣算力科技有限公司賀強獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜四川邊緣算力科技有限公司申請的專利提高GPU資源利用率的分配方法、系統、介質和程序產品獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119415272B 。
龍圖騰網通過國家知識產權局官網在2025-03-25發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510018821.6,技術領域涉及:G06F9/50;該發明授權提高GPU資源利用率的分配方法、系統、介質和程序產品是由賀強設計研發完成,并于2025-01-07向國家知識產權局提交的專利申請。
本提高GPU資源利用率的分配方法、系統、介質和程序產品在說明書摘要公布了:本申請提供一種提高GPU資源利用率的分配方法、系統、介質和程序產品,涉及數據處理技術領域。該方法包括:構建混合資源池,包括按設定算力和顯存顆粒度劃分的已劃分資源池及保留完整GPU資源單元的整塊備用資源池。接著從接口端獲取待處理任務,利用基于多因素機器學習訓練所得的任務分析模型確定其算力規模與連續性需求數據。最后依據這些數據按預設方法從混合資源池中分配算力資源,旨在應對多樣化任務需求,實現GPU資源的高效靈活分配與利用,提升整體效率。
本發明授權提高GPU資源利用率的分配方法、系統、介質和程序產品在權利要求書中公布了:1.一種提高GPU資源利用率的分配方法,應用于資源分配系統,其特征在于,所述方法包括:構建包含已劃分資源池和整塊備用資源池的混合資源池,所述已劃分資源池是將GPU資源按照設定算力顆粒度和顯存顆粒度進行劃分的資源池,所述整塊備用資源池是保留預設個數的完整GPU資源單元的資源池,所述設定算力顆粒度是指用于劃分計算資源的最小單位,所述顯存顆粒度是指結合GPU顯存容量劃分的顯存單元大小;從接口端獲取待處理任務,通過任務分析模型確定所述待處理任務需要的算力規模數據和連續性需求數據,所述任務分析模型是事先根據多個任務的輸入數據特征、算法復雜度、數據處理流程和歷史任務執行記錄進行機器學習訓練而得,所述算力規模數據是指完成所述待處理任務所需的計算能力大小,所述連續性需求數據是指任務在執行過程中對GPU資源連續占用和使用的要求程度;根據所述算力規模數據和所述連續性需求數據按照預設方法從所述已劃分資源池和所述整塊備用資源池中分配相應的算力資源;在根據所述算力規模數據和所述連續性需求數據按照預設方法從所述已劃分資源池和所述整塊備用資源池中分配相應的算力資源的步驟,具體包括:若所述待處理任務需要的所述算力規模小于設定算力閾值且所述連續性需求數據小于設定連續性程度閾值,則將所述待處理任務分配至所述已劃分資源池處理;若所述待處理任務需要的所述算力規模大于設定算力閾值且所述連續性需求數據小于設定連續性程度閾值,則將所述待處理任務中算力規模超過設定算力閾值部分對應的待處理任務分配至所述整塊備用資源池處理;若所述待處理任務需要的所述算力規模大于設定算力閾值且所述連續性需求數據小于設定連續性程度閾值,則將所述待處理任務中算力規模超過設定算力閾值部分對應的待處理任務分配至所述整塊備用資源池處理的步驟之后,還包括:若所述待處理任務的所述連續性需求數據大于設定連續性程度閾值,則將所述待處理任務先分配至已劃分資源池中進行所述待處理任務的初步計算工作;在所述整塊備用資源池中搜索與所述待處理任務相匹配的完整GPU資源單元之后,暫停在所述已劃分資源池中執行的任務處理工作;將任務的計算狀態信息數據遷移至所述完整GPU資源單元中并恢復任務執行;在將任務的計算狀態信息數據遷移至所述完整GPU資源單元中并恢復任務執行的步驟之后,還包括:實時統計所述已劃分資源池和所述整塊備用資源池的資源使用情況;當所述已劃分資源池的使用率連續設定時長低于第一預設閾值時,將預設部分已劃分資源合并后轉入所述整塊備用資源池;當所述整塊備用資源池的使用率連續設定時長低于第二預設閾值時,將部分完整GPU資源單元按照設定算力顆粒度劃分后轉入所述已劃分資源池;在將任務的計算狀態信息數據遷移至所述完整GPU資源單元中并恢復任務執行的步驟之后,還包括:獲取所述待處理任務的優先級信息;若所述混合資源池無法滿足高優先級所述待處理任務需求時,則暫停所述已劃分資源池中正在處理的低優先級任務;回收所述低優先級任務占用的資源,分配給所述高優先級對應的所述待處理任務;在將任務的計算狀態信息數據遷移至所述完整GPU資源單元中并恢復任務執行的步驟之前,還包括:根據所述待處理任務的數據結構特點將所述待處理任務的處理狀態信息數據按照統一格式進行保存;通過設定的編碼機制確定數據的完整性。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人四川邊緣算力科技有限公司,其通訊地址為:610000 四川省成都市中國(四川)自由貿易試驗區成都高新區府城大道西段399號10棟16層1607號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。