來自幾個物理和地質實驗室的研究人員已經開發了深度仿真器網絡搜索(DENSE),這是一種使用深度學習在從高能物理到氣候科學等各個領域進行科學模擬的技術。與以前的模擬器相比,DENSE的結果使速度提高了1000萬到20億倍。
科學家在arXiv上發表的一篇論文中描述了他們的技術和一些實驗。由于需要有效地生成神經網絡仿真器 來代替較慢的仿真,該團隊開發了一種神經搜索方法和一種新穎的可生成卷積神經網絡(CNN)的超體系結構。選擇CNN的原因是,它們在大量“自然”信號上表現良好,而這些信號是許多科學模型的領域。使用標準的模擬器程序來為CNN生成訓練和測試數據,并且根據該團隊。
科學家經常使用模擬 -數學模型的計算機實現-來檢驗新思想并探索自然系統的潛在行為。由于這些仿真是理論模型的實現,因此即使在現代計算機硬件上,它們也可能運行非常緩慢。例如, 全球氣候模型可能要花費數千個CPU小時。加速模擬器可以使研究人員嘗試許多想法,并已顯示出有望作為改進藥物發現或改進和優化昂貴的血漿和融合實驗的一種方法。
對于科學家僅對模型輸出感興趣而不對內部模型狀態感興趣的情況,仿真器可以提供答案。仿真器是一種程序,可以模擬給定輸入的仿真器輸出,但無需準確地對系統的內部狀態建模。
通過使用速度較慢的模擬器生成許多輸入/輸出示例,科學家可以訓練出比模擬器運行速度快得多的神經網絡模擬器。面臨的挑戰是為模擬器找到最適合訓練數據的適當神經網絡架構。
為了解決這個問題,研究團隊開發了一種神經架構搜索(NAS),稱為深度仿真器網絡搜索(DENSE)。首先,團隊定義了一個網絡超級架構 這限制了算法的搜索空間。
超級架構是節點圖;第一個節點代表輸入,最后一個節點代表輸出;之間的兩個以上的節點代表隱藏網絡層的激活輸出。
節點通過操作組進行連接,這些操作組包括各種內核大小的CNN層,標識層(或“跳過連接”)以及將其輸入乘以零的零層。從該超級架構空間中采樣候選網絡并對其進行訓練。然后,通過在未驗證的數據集上運行候選人來對候選人進行排名,以找到表現最佳的網絡。
-
神經網絡
+關注
關注
42文章
4787瀏覽量
101390 -
深度學習
+關注
關注
73文章
5523瀏覽量
121735
發布評論請先 登錄
相關推薦
百度搜索與文心智能體平臺接入DeepSeek及文心大模型深度搜索
EE-175: 仿真器與EZ-KIT Lite評估系統問題解決指南

仿真器的使用方法有哪些
研究人員利用人工智能提升超透鏡相機的圖像質量

用ST-LINK仿真器IAR調試STM8板子,仿真器總是報錯如何解決?
研究人員開發出高性能p型非晶氧化物半導體

研究人員發現提高激光加工分辨率的新方法

評論