Sum-Product Networks的參數學習方法
大小：0.69 MB 人氣： 2017-11-16 需要積分：0
隨著信息社會的發展，互聯網上的信息爆炸式的增長，如何有效地處理和組織這些數據，成為當前研究的重要課題。圖模型常常被用來對大數據建模，它可以簡潔的表示變量的概率分布，并且可以高效的計算和精確的學習模型的參數。一般情況下，我們常常使用圖模型來簡潔的表示復雜的分布，但是它在參數學習和推理的時候比較困難，這是由于它在歸一化的時候需要比較大的計算量。而且網模型在做推理的時候，最壞的情況下會有指數級別的復雜度。另外隨著變量的增加，網模型的復雜度會越來越高。深度架構可以看成一個有著多層隱變量的圖模型，而且很多的分布只可以用深度網絡來表示。然而在混合一些非凸的似然估計和比較高復雜度的推理讓學習這種深度網絡非常的難。而網模型雖然在推理上是可處理的，但是其在簡潔表征方面的性能是非常有限的。
而Sum-Product Networks具有很強的表達能力和快速的推理能力。在2011年，Poon和Domingos提m了Sum-Product Networks，通過增加層數來提高表達能力并且可以非常高效的做推理。SPN可以看成是一個廣義的有向無環的混合圖，SPN中間層一種小的由product節點和加權的sum芾點的SPN結構不斷遞歸的組成的，而最下面的葉子節點是各個單一變量。Sum節點可以看成變量在集合上的混合，而product節點可以看成特征的混合。SPN可以看成概率上下文無關文法的特例，它有著很好的處理能力和很強的表達能力，這使得SPN有著很廣泛的應用，特別是一些視覺應用中。
非常好我支持^.^
(0) 0%
不好我反對
(0) 0%