恭喜暗物智能科技(廣州)有限公司何子健獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜暗物智能科技(廣州)有限公司申請的專利一種神經網絡搜索方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114528990B 。
龍圖騰網通過國家知識產權局官網在2025-04-15發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202011322147.4,技術領域涉及:G06N3/0895;該發明授權一種神經網絡搜索方法及系統是由何子健;張吉祺;彭杰鋒;王廣潤;梁小丹設計研發完成,并于2020-11-23向國家知識產權局提交的專利申請。
本一種神經網絡搜索方法及系統在說明書摘要公布了:本發明公開了一種神經網絡搜索方法及系統,方法包括:在待搜索的超網絡上隨機采樣兩個不重疊的模型,兩個模型在編碼器和動量編碼器各有一份,基于動量對比學習對編碼器訓練;固定編碼器網絡權重將其批規范化層設置為訓練模式,在編碼器后加上隨機初始化的全連接分類頭部并對其訓練;在驗證集計算模型的分類預測準確率作為采樣模型的性能指標,重新搜索重復上述采樣模型訓練、分類頭部訓練及性能評價的步驟,獲取性能指標最好的模型作為最終模型。本發明提供的搜索方法能自監督地對超網絡訓練,該流程無需數據標注,利用交叉學習讓不同結構學到相似的表達,緩解超網絡上不同結構訓練不公平甚至訓練失敗的問題,使超網絡的訓練更高效和魯棒性更高。
本發明授權一種神經網絡搜索方法及系統在權利要求書中公布了:1.一種神經網絡搜索方法,其特征在于,包括如下步驟:在待搜索的超網絡上隨機采樣兩個不重疊的模型,采樣的兩個模型在編碼器和動量編碼器各有一份,基于動量對比學習的方法對編碼器進行訓練,包括:使用與編碼器相同的網絡結構初始化動量編碼器,在每一步訓練迭代中,對批量的每張圖片樣本進行四次隨機數據增強,得到、、、作為網絡輸入;分別將、喂給編碼器上隨機采樣的模型1和模型2,再經過共享的多層感知器得到特征向量、,再分別將、喂給動量編碼器上的模型1和模型2,得到、,將、作為正樣本對,將、作為另一對正樣本對,分別與負樣本隊列計算對比損失得到兩個損失、,將兩個損失相加,作為樣本的損失,對損失反向求導更新編碼器,再對更新后的編碼器的網絡權重計算滑動平均來更新動量編碼器;再對、求平均并更新到負樣本隊列中;取出訓練好的編碼器并固定其網絡權重,將編碼器中所有批規范化層設置為訓練模式,并在編碼器結構之后加上一個隨機初始化的全連接分類頭部,并對分類頭部進行訓練;在驗證集計算模型的分類預測準確率,將其作為超網絡采樣模型的性能指標;采用ActionSpace方法采樣模型,在超網絡中重新搜索并重復上述采樣模型訓練、分類頭部訓練及性能評價的步驟,并獲取性能指標最好的模型作為最終的模型。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人暗物智能科技(廣州)有限公司,其通訊地址為:511400 廣東省廣州市南沙區金隆路37號16層整層(僅限辦公);或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。