BigDL是基于Apache Spark的分布式深度學習框架,借助現有的Spark集群來運行深度學習計算,并簡化存儲在Hadoop中的大數據集的數據加載。
1、豐富的深度學習支持。模擬Torch之后,BigDL為深入學習提供全面支持,包括數字計算(通過Tensor)和高級神經網絡 ; 此外,用戶可以使用BigDL將預先訓練好的Caffe或Torch模型加載到Spark程序中。
2、極高的性能。為了實現高性能,BigDL在每個Spark任務中使用英特爾MKL和多線程編程。因此,在單節點Xeon(即與主流GPU 相當)上,它比開箱即用開源Caffe,Torch或TensorFlow快了數量級。
3、有效地橫向擴展。BigDL可以通過利用Apache Spark(快速分布式數據處理框架),以及高效實施同步SGD和全面減少Spark的通信,從而有效地擴展到“大數據規模”上的數據分析
-
英特爾
+關注
關注
61文章
10191瀏覽量
174508 -
AI
+關注
關注
88文章
34948瀏覽量
278395 -
大數據
+關注
關注
64文章
8957瀏覽量
140004 -
深度學習
+關注
關注
73文章
5559瀏覽量
122733
發布評論請先 登錄
評論