在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

基于PyTorch的深度學習入門教程之訓練一個神經網絡分類器

ss ? 來源:雁回晴空 ? 作者:雁回晴空 ? 2021-02-15 09:47 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

前言

本文參考PyTorch官網的教程,分為五個基本模塊來介紹PyTorch。為了避免文章過長,這五個模塊分別在五篇博文中介紹。

Part1:PyTorch簡單知識

Part2:PyTorch的自動梯度計算

Part3:使用PyTorch構建一個神經網絡

Part4:訓練一個神經網絡分類器

Part5:數據并行化

本文是關于Part4的內容。

Part4:訓練一個神經網絡分類器

前面已經介紹了定義神經網絡,計算損失和更新權重,這里介紹訓練神經網絡分類器。

1 關于數據

通常,當你需要處理圖像、文本、飲品或者視頻數據,你可以使用標準的python包將數據導入到numpy 的array中。之后,你可以將array轉換到torch.*Tensor。

(1) 對于圖像,Pillow、OpenCV等包非常有用。

(2) 對于音頻,scipy和librosa等包非常好。

(3) 對于文本,原始Python或基于Cython的加載,或者NLTK和SpaCy都是有用的。

尤其對于視覺,我們創建了一個叫做torchvision的包,包含了對于常用數據集(如ImageNet,CIFAR10,MNIST等)的數據加載器和對于images、viz的數據轉換器,torchvision.datasets和 torch.utils.data.DataLoader。

在該教程中,我們使用CIFAR10數據集。它含有這些類:‘airplane’, ‘automobile’, ‘bird’, ‘cat’,‘deer’, ‘dog’, ‘frog’, ‘horse’, ‘ship’, ‘truck’。 這些圖像的尺寸是3*32*32,即3通道的彩色圖像,尺寸為32*32。

2 訓練圖像分類器

我們按照如下步驟:

(1) 使用torchvision導入并且正規化CIFAR10的訓練集和測試集

(2) 定義一個卷積神經網絡

(3) 定義一個損失函數

(4) 在測試數據上訓練該網絡

(5) 在測試數據上測試該網絡

2.1 導入和正規化CIFAR10

使用torchvision,加載CIFAR10很容易。

import torch
import torchvision
import torchvision.transforms as transforms

torchvision數據集的輸出是[0,1]區間的PILImage。我們把這些圖像轉換到[-1,1]區間的Tensor。

transform = transforms.Compose(
    [transforms.ToTensor(),
     transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])

trainset = torchvision.datasets.CIFAR10(root='./data', train=True,
                                        download=True, transform=transform)
trainloader = torch.utils.data.DataLoader(trainset, batch_size=4,
                                          shuffle=True, num_workers=2)

testset = torchvision.datasets.CIFAR10(root='./data', train=False,
                                       download=True, transform=transform)
testloader = torch.utils.data.DataLoader(testset, batch_size=4,
                                         shuffle=False, num_workers=2)

classes = ('plane', 'car', 'bird', 'cat',
           'deer', 'dog', 'frog', 'horse', 'ship', 'truck')

我們來顯示一些訓練圖像。

import matplotlib.pyplot as plt
import numpy as np

# functions to show an image


def imshow(img):
    img = img / 2 + 0.5     # unnormalize
    npimg = img.numpy()
    plt.imshow(np.transpose(npimg, (1, 2, 0)))


# get some random training images
dataiter = iter(trainloader)
images, labels = dataiter.next()

# show images
imshow(torchvision.utils.make_grid(images))
# print labels
print(' '.join('%5s' % classes[labels[j]] for j in range(4)))

2.2 定義卷積神經網絡

定義一個適用于3通道圖像的卷積神經網絡。

from torch.autograd import Variable
import torch.nn as nn
import torch.nn.functional as F


class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.conv1 = nn.Conv2d(3, 6, 5)
        self.pool = nn.MaxPool2d(2, 2)
        self.conv2 = nn.Conv2d(6, 16, 5)
        self.fc1 = nn.Linear(16 * 5 * 5, 120)
        self.fc2 = nn.Linear(120, 84)
        self.fc3 = nn.Linear(84, 10)

    def forward(self, x):
        x = self.pool(F.relu(self.conv1(x)))
        x = self.pool(F.relu(self.conv2(x)))
        x = x.view(-1, 16 * 5 * 5)
        x = F.relu(self.fc1(x))
        x = F.relu(self.fc2(x))
        x = self.fc3(x)
        return x


net = Net()

2.3 定義損失函數和優化器

使用分類交叉熵損失和帶有動量的隨機梯度下降。

import torch.optim as optim

criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)

2.4 訓練網絡

我們只需要在數據上迭代,把輸入數據交給網絡并且優化即可。

for epoch in range(2):  # loop over the dataset multiple times

    running_loss = 0.0
    for i, data in enumerate(trainloader, 0):
        # get the inputs
        inputs, labels = data

        # wrap them in Variable
        inputs, labels = Variable(inputs), Variable(labels)

        # zero the parameter gradients
        optimizer.zero_grad()

        # forward + backward + optimize
        outputs = net(inputs)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()

        # print statistics
        running_loss += loss.data[0]
        if i % 2000 == 1999:    # print every 2000 mini-batches
            print('[%d, %5d] loss: %.3f' %
                  (epoch + 1, i + 1, running_loss / 2000))
            running_loss = 0.0

print('Finished Training')

預期輸出:

[1,2000]loss:2.191

[1,4000]loss:1.866

[1,6000]loss:1.696

[1,8000]loss:1.596

[1,10000]loss:1.502

[1,12000]loss:1.496

[2,2000]loss:1.422

[2,4000]loss:1.370

[2,6000]loss:1.359

[2,8000]loss:1.321

[2,10000]loss:1.311

[2,12000]loss:1.275

FinishedTraining

2.5 在測試數據上測試網絡

我們已經訓練了一個網絡。現在對其在測試數據上測試。第一步,顯示一個來自測試集的圖像。

dataiter = iter(testloader)
images, labels = dataiter.next()

# print images
imshow(torchvision.utils.make_grid(images))
print('GroundTruth: ', ' '.join('%5s' % classes[labels[j]] for j in range(4)))

預期輸出:

GroundTruth:catshipshipplane

使用訓練好的網絡來預測這些圖像應該屬于哪類。

outputs = net(Variable(images))

輸出的是關于10個類別的能量值。哪個類別能量值高,網絡就認為圖像屬于哪一類。因此我們需要獲取最高能量值的索引

_, predicted = torch.max(outputs.data, 1)

print('Predicted: ', ' '.join('%5s' % classes[predicted[j]]
                              for j in range(4)))

預期輸出:

Predicted:catshipcar plane

現在看一下網絡在整個數據集上的表現。

correct = 0
total = 0
for data in testloader:
    images, labels = data
    outputs = net(Variable(images))
    _, predicted = torch.max(outputs.data, 1)
    total += labels.size(0)
    correct += (predicted == labels).sum()

print('Accuracy of the network on the 10000 test images: %d %%' % (
    100 * correct / total))

預期輸出:

Accuracyofthenetworkonthe10000testimages:54%

這看起來比偶然準確率(10%)要好。看起來,訓練有一定效果。

看一下哪些類別表現好,哪些表現不好。

class_correct = list(0. for i in range(10))
class_total = list(0. for i in range(10))
for data in testloader:
    images, labels = data
    outputs = net(Variable(images))
    _, predicted = torch.max(outputs.data, 1)
    c = (predicted == labels).squeeze()
    for i in range(4):
        label = labels[i]
        class_correct[label] += c[i]
        class_total[label] += 1


for i in range(10):
    print('Accuracy of %5s : %2d %%' % (
        classes[i], 100 * class_correct[i] / class_total[i]))

預期輸出:

Accuracyofplane:60%

Accuracyofcar:46%

Accuracyofbird:44%

Accuracyofcat:35%

Accuracyofdeer:38%

Accuracyofdog:43%

Accuracyoffrog:57%

Accuracyofhorse:76%

Accuracyofship:71%

Accuracyoftruck:74%

3 在GPU上訓練

下面這句話會遞歸遍歷全部的模塊并且將它們的參數和緩沖區轉到CUDA tensors。

net.cuda()

記住,還需要在每一步將輸入和目標值發送到GPU。

inputs, labels = Variable(inputs.cuda()), Variable(labels.cuda())

當網絡非常大而復雜的時候,這種加速是非常明顯的。

責任編輯:xj
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4814

    瀏覽量

    103443
  • 深度學習
    +關注

    關注

    73

    文章

    5560

    瀏覽量

    122750
  • pytorch
    +關注

    關注

    2

    文章

    809

    瀏覽量

    13920
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    如何優化BP神經網絡學習

    優化BP神經網絡學習率是提高模型訓練效率和性能的關鍵步驟。以下是些優化BP神經網絡學習率的方
    的頭像 發表于 02-12 15:51 ?911次閱讀

    BP神經網絡的優缺點分析

    學習能力 : BP神經網絡能夠通過訓練數據自動調整網絡參數,實現對輸入數據的分類、回歸等任務,無需人工進行復雜的特征工程。 泛化能力強
    的頭像 發表于 02-12 15:36 ?897次閱讀

    BP神經網絡深度學習的關系

    ),是種多層前饋神經網絡,它通過反向傳播算法進行訓練。BP神經網絡由輸入層、或多個隱藏層和
    的頭像 發表于 02-12 15:15 ?841次閱讀

    深度學習入門:簡單神經網絡的構建與實現

    深度學習中,神經網絡是核心模型。今天我們用 Python 和 NumPy 構建簡單的神經網絡
    的頭像 發表于 01-23 13:52 ?514次閱讀

    深度學習中的卷積神經網絡模型

    深度學習近年來在多個領域取得了顯著的進展,尤其是在圖像識別、語音識別和自然語言處理等方面。卷積神經網絡作為深度學習
    的頭像 發表于 11-15 14:52 ?827次閱讀

    Pytorch深度學習訓練的方法

    掌握這 17 種方法,用最省力的方式,加速你的 Pytorch 深度學習訓練
    的頭像 發表于 10-28 14:05 ?644次閱讀
    <b class='flag-5'>Pytorch</b><b class='flag-5'>深度</b><b class='flag-5'>學習</b><b class='flag-5'>訓練</b>的方法

    如何構建多層神經網絡

    構建多層神經網絡(MLP, Multi-Layer Perceptron)模型是在機器學習深度學習
    的頭像 發表于 07-19 17:19 ?1542次閱讀

    Python自動訓練人工神經網絡

    人工神經網絡(ANN)是機器學習種重要的模型,它模仿了人腦神經元的工作方式,通過多層節點(神經元)之間的連接和權重調整來
    的頭像 發表于 07-19 11:54 ?685次閱讀

    脈沖神經網絡怎么訓練

    脈沖神經網絡(SNN, Spiking Neural Network)的訓練復雜但充滿挑戰的過程,它模擬了生物神經元通過脈沖(或稱為尖
    的頭像 發表于 07-12 10:13 ?1193次閱讀

    殘差網絡深度神經網絡

    殘差網絡(Residual Network,通常簡稱為ResNet) 是深度神經網絡種 ,其獨特的結構設計在解決深層網絡
    的頭像 發表于 07-11 18:13 ?1602次閱讀

    神經網絡優化有哪些

    神經網絡優化深度學習中用于調整網絡參數以最小化損失函數的重要工具。這些優化通過不同的策略來
    的頭像 發表于 07-11 16:33 ?1110次閱讀

    PyTorch如何實現多層全連接神經網絡

    PyTorch中實現多層全連接神經網絡(也稱為密集連接神經網絡或DNN)是相對直接的過程,涉及定義
    的頭像 發表于 07-11 16:07 ?2017次閱讀

    20數據可以訓練神經網絡

    種強大的機器學習模型,可以處理各種復雜的任務,如圖像識別、自然語言處理和游戲。然而,訓練神經網絡
    的頭像 發表于 07-11 10:29 ?1798次閱讀

    怎么對神經網絡重新訓練

    重新訓練神經網絡復雜的過程,涉及到多個步驟和考慮因素。 引言 神經網絡種強大的機器
    的頭像 發表于 07-11 10:25 ?853次閱讀

    pytorch中有神經網絡模型嗎

    處理、語音識別等領域取得了顯著的成果。PyTorch開源的深度學習框架,由Facebook的AI研究團隊開發。它以其易用性、靈活性和高
    的頭像 發表于 07-11 09:59 ?1789次閱讀
    主站蜘蛛池模板: 欧美人成一本免费观看视频 | 国模伊人| 1024久久| 日本特黄在线观看免费 | 日韩美a一级毛片 | 韩国三级久久精品 | aa在线观看| 色噜噜狠狠色综合中文字幕 | 五月激情综合丁香色婷婷 | 一级看片| 老司机午夜永久在线观看 | 黄大片18满岁水多 | 欧美午夜片 | 日本5级床片全免费 | 亚洲电影在线播放 | 快乐你懂的在线视频免费观看 | 国产三级在线观看 | 四虎影视永久在线 yin56xyz | 在线观看www日本免费网站 | tube性欧美另类 | 色久优优 欧美色久优优 | 人人爱干| 亚洲αv久久久噜噜噜噜噜 亚洲аv电影天堂网 | 免费看片你懂的 | 欧美一区二区三区精品 | 国产98在线传媒在线视频 | 四虎影院网 | 天天爽视频 | 一二三四日本视频社区 | 在线观看视频免费入口 | 手机看片1024福利 | www.色偷偷 | 777欧美午夜精品影院 | 国产精欧美一区二区三区 | 四虎最新免费观看网址 | 四虎影视在线影院4hu | 国产精品福利午夜h视频 | 亚洲区一二三四区2021 | 一级特级aaaa毛片免费观看 | 亚洲成人网在线观看 | 乱子伦xxx欧美 |