1 原理
對(duì)于生成對(duì)抗網(wǎng)絡(luò)GAN,一個(gè)簡(jiǎn)單的理解是可以將其看做博弈的過程,我們可以將生成模型和判別模型看作博弈的雙方,比如在犯罪分子造假幣和警察識(shí)別假幣的過程中:
- 生成模型G相當(dāng)于制造假幣的一方,其目的是根據(jù)看到的錢幣情況和警察的識(shí)別技術(shù),去盡量生成更加真實(shí)的、警察識(shí)別不出的假幣。
- 判別模型D相當(dāng)于識(shí)別假幣的一方,其目的是盡可能的識(shí)別出犯罪分子制造的假幣。 這樣通過造假者和識(shí)假者雙方的較量和朝目的的改進(jìn),使得最后能達(dá)到生成模型能盡可能真的錢幣、識(shí)假者判斷不出真假的納什均衡效果(真假幣概率都為0.5)。
2 訓(xùn)練
生成器G的目標(biāo)是欺騙鑒別器D,其目標(biāo)是能夠區(qū)分真實(shí)數(shù)據(jù)和生成數(shù)據(jù)。因此,在訓(xùn)練生成器時(shí),我們希望誤差最大化,同時(shí)我們想要使鑒別器的誤差最小化。
2.1 判別模型
目標(biāo)函數(shù)是:
max_D E_{x-p_r} [logD(x)]+E_{z-p_g } [log(1-D(x))]
其中D(x)是判別模型的輸出結(jié)果,是一個(gè)0-1范圍內(nèi)的實(shí)數(shù)值,用來判斷圖片是真實(shí)圖片的概率,其中Pr和Pg分別代表真實(shí)圖像的分布與生成圖像的數(shù)據(jù)分布情況,可以看出目標(biāo)函數(shù)是找到使得后面兩個(gè)式子之和最大的判別模型函數(shù)D(z),后面兩個(gè)式子是一個(gè)加和形式,其中:
E_{x-p_r} [logD(x)]
是指使得真實(shí)數(shù)據(jù)放入到判別模型D(x)輸出的計(jì)算值和整個(gè)式子值盡可能大。
E_{z-p_g } [log(1-D(x))]
指使得造假數(shù)據(jù)放入到判別模型D(x)輸出的計(jì)算值盡可能小和整個(gè)式子值盡可能大。
這樣整合下來就是使得目標(biāo)函數(shù)盡可能大,因此在訓(xùn)練時(shí)就可以根據(jù)目標(biāo)函數(shù)進(jìn)行梯度提升。
2.2 生成模型
目標(biāo)是讓判別模型無(wú)法區(qū)分真實(shí)圖片和生成圖片,其目標(biāo)函數(shù)是:
min_g (max_D E_{x-p_r} [logD(x)]+E_{z-p_g } [log(1-D(x))])
也就是找到生成函數(shù)g(z)使得生成模型的目標(biāo)函數(shù)盡量小。
學(xué)習(xí)更多編程知識(shí),請(qǐng)關(guān)注我的公眾號(hào):
[代碼的路]
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4810瀏覽量
102918 -
GaN
+關(guān)注
關(guān)注
19文章
2184瀏覽量
76251 -
函數(shù)
+關(guān)注
關(guān)注
3文章
4372瀏覽量
64292
發(fā)布評(píng)論請(qǐng)先 登錄
#新年新氣象,大家新年快樂!#AIGC入門及鴻蒙入門
AIGC入門及鴻蒙入門
微軟生成式AI腳本GenAIScript的安裝與配置

評(píng)論