在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

在英特爾酷睿Ultra AI PC上部署多種圖像生成模型

英特爾物聯(lián)網(wǎng) ? 來源:英特爾物聯(lián)網(wǎng) ? 2025-04-02 15:47 ? 次閱讀

作者:

顏國進英特爾創(chuàng)新大使

李翊瑋英特爾開發(fā)者技術推廣工程師

1前言

1.1英特爾 酷睿 Ultra 2處理器

全新英特爾酷睿Ultra 200V系列處理器對比上代Meteor Lake,升級了模塊化結構、封裝工藝,采用全新性能核與能效核、英特爾硬件線程調(diào)度器、Xe2微架構銳炫GPU、第四代NPU等,由此也帶來了CPU性能提升18%,GPU性能提升30%,整體功耗降低50%,以及120TOPS平臺AI算力。

酷睿Ultra 200V系列處理器共有9款SKU,包括1款酷睿Ultra 9、4款酷睿Ultra 7以及4款酷睿Ultra 5,全系8核心8線程(4個性能核與4個能效核),具體規(guī)格如下:

302386e8-0e10-11f0-9310-92fbcf53809c.png

作為新一代旗艦,酷睿Ultra 9 288V性能核頻率最高5.1GHz、能效核頻率最高3.7GHz,擁有12MB三級緩存。GPU方面,集成銳炫140V顯卡,擁有8個全新Xe2核心、8個光線追蹤單元,頻率最高2.05GHz,可以實現(xiàn)67TOPSAI算力。而NPU集成6個第四代神經(jīng)計算引擎,AI算力提升至48TOPS。

本文是用KHARAS(深圳市世野科技 https://www.khadas.com/product-page/mind-maker-kit-lnl) 提供基于英特爾酷睿Ultra的AI PC,只有435g, 以下為其參數(shù):

305cf522-0e10-11f0-9310-92fbcf53809c.png

主要特點

oIntel Core Ultra Processor Series 2

oAI Performance: up to 115 TOPS

oNPU: 4.0 AI Engine, up to 47 TOPS

oGPU: Intel Arc 140V, up to 64 TOPS

o32GB LPDDR5X Memory, 1TB PCIe SSD

oCopilot+ PC: Windows AI assistant

oBattery Life Optimization

oWiFi+ Bluetooth: AX211D2

處理器信息如下表所示:

30771164-0e10-11f0-9310-92fbcf53809c.png

1.2OpenVINO GenAI

OpenVINO GenAI 是英特爾推出的生成式 AI 開發(fā)工具庫,基于 OpenVINO 工具套件構建,專注于在英特爾硬件(CPU、GPU、NPU)上高效優(yōu)化和部署生成式模型。其核心能力涵蓋 ?文本生成?、?圖像生成?、?多模態(tài)推理? 等場景,通過硬件加速、模型壓縮和開發(fā)工具鏈集成,顯著提升生成式 AI 的推理性能與部署效率。開發(fā)者可通過 Text2ImagePipeline 工具部署stable-diffusion、Flux.1d等圖像生成模型及變體快速生成高精度圖像,并結合 LoRA 適配器實現(xiàn)風格化定制?。針對大語言模型(如 Mistral-7B、DeepSeek 蒸餾模型),GenAI 提供動態(tài)批處理、INT8 量化和提示詞解碼優(yōu)化,在文檔問答等高相似性場景中減少生成延遲?。此外,其多模態(tài)能力擴展至語音轉錄(Whisper 模型)和視覺語言模型(如 LLaVA),支持端到端跨模態(tài)推理?。

308cdf80-0e10-11f0-9310-92fbcf53809c.png

1.3 文生圖模型

文生圖模型是基于深度學習技術實現(xiàn)文本到圖像生成的核心工具,其核心原理是通過自然語言處理與計算機視覺的結合,將文本語義轉化為視覺元素,并利用逆向擴散過程逐步生成高質(zhì)量圖像?。這類模型主要采用?擴散模型框架?,通過前向加噪與逆向去噪的迭代過程,將隨機噪聲逐步重構為符合文本描述的圖像,其中UNet網(wǎng)絡承擔著跨模態(tài)特征融合的關鍵角色?23。當前主流模型已廣泛應用于?藝術創(chuàng)作?(如插畫風格化生成)、?工業(yè)設計?(產(chǎn)品原型可視化)及?影視游戲?(場景概念圖生成)等領域,尤其在需要快速原型迭代的場景中展現(xiàn)出顯著優(yōu)勢?。

wKgZPGfs68mABMTLAAMTe-GunT0944.png

在具體模型中,?Stable Diffusion?作為開源領域的標桿,基于潛在擴散模型(LDM)構建,其核心創(chuàng)新在于將圖像壓縮至低維潛在空間進行擴散運算,大幅降低計算開銷?23。該模型支持ControlNet插件實現(xiàn)姿態(tài)控制、邊緣引導等精細化生成,并通過LoRA微調(diào)技術快速適配特定藝術風格,例如在生成“卡通小老虎頭像”時可通過調(diào)整提示詞參數(shù)實現(xiàn)毛發(fā)細節(jié)優(yōu)化?13。而?FLUX.1?作為2024年后起之秀,則通過動態(tài)分層量化技術突破硬件限制,在英特爾CPU/GPU上實現(xiàn)了更高分辨率的實時生成(如4096×4096像素級輸出),其獨有的多模態(tài)聯(lián)合訓練框架支持“文本+草圖”混合輸入,特別適用于工業(yè)設計領域的產(chǎn)品外觀迭代?14。

FLUX.1還創(chuàng)新性地引入Yarn風格LoRA適配器,在生成機械結構圖時能自動保持幾何比例精確性,較傳統(tǒng)模型減少30%的后期人工修正工作量?46。這兩大模型分別代表開源生態(tài)與商業(yè)化落地的技術路徑,推動文生圖技術向專業(yè)化、場景化方向持續(xù)演進?。

2模型下載與轉換

2.1環(huán)境配置

模型下載與轉換需要使用的Python環(huán)境,因此此處我們采用Anaconda,然后用下面的命令創(chuàng)建并激活名為optimum_intel的虛擬環(huán)境:

conda create -n optimum_intel python=3.11   #創(chuàng)建虛擬環(huán)境
conda activate optimum_intel   #激活虛擬環(huán)境
python -m pip install --upgrade pip   #升級pip到最新版本

由于Optimum Intel代碼迭代速度很快,所以選用從源代碼安裝的方式,安裝Optimum Intel和其依賴項OpenVINO 與NNCF。

python -m pip install "optimum-intel[openvino,nncf]"@git+https://github.com/huggingface/optimum-intel.git

2.2常規(guī)方式下載與轉換模型

目前OpenVINO GenAI支持了多種圖像生成模型,包括了Latent Consistency Model、Stable Diffusion、Stable Diffusion Inpainting、Flux等系列模型,模型導出和下載方式基本一致,此處以stable-diffusion-v1-5模型為例,演示文生圖模型的下載方式。

此處我們使用Git進行模型下載,目前文生圖這種大模型文件可以在HuggingFace社區(qū)下載,在HuggingFace社區(qū)檢索對應的模型,并獲取模型對應的鏈接,使用Git輸入以下指令:

git clone https://huggingface.co/stable-diffusion-v1-5/stable-diffusion-v1-5

不過對于國內(nèi)的小伙伴可能訪問HuggingFace社區(qū)不方便,不過如果我們要想快速下載模型,可以通過國內(nèi)的魔塔社區(qū)進行下載,下載鏈接如下所示:

git clone https://www.modelscope.cn/AI-ModelScope/stable-diffusion-v1-5.git

將模型保存在本地后,需要使用optimum-intel工具將模型轉換為OpenVINO GenAI格式,此外也可以將模型進行量化,加快模型推理速度,轉換命令如下所示:

optimum-cli export openvino --model ./stable-diffusion-v1-5 –task text-to-image --weight-format int4 --group-size 64 --ratio 1.0 ./stable-diffusion-v1-5-int4

2.3模型快速獲取

但是上面模型獲取和下載方式依舊比較麻煩,并且轉換模型需要更大的內(nèi)存,且在環(huán)境安裝和模型下載時容易出現(xiàn)錯誤,不過此處OpenVINO 官方提供了轉換好的模型,可以直接下載就可以使用,文生圖模型庫鏈接如下所示:

https://huggingface.co/collections/OpenVINO/image-generation-67697d9952fb1eee4a252aa8

30c354e8-0e10-11f0-9310-92fbcf53809c.png

此處也可以通過Git進行下載,使用Git下載鏈接如下:

git clone https://huggingface.co/OpenVINO/stable-diffusion-v1-5-int8-ov

同樣地,對于不方便訪問HuggingFace社區(qū)的小伙伴,此處依舊可以使用莫塔社區(qū)進行下載,下載鏈接如下:

git clone https://www.modelscope.cn/OpenVINO/stable-diffusion-v1-5-int8-ov.git

下載后的模型文件為:

30db8d38-0e10-11f0-9310-92fbcf53809c.png

3OpenVINO GenAI 安裝與 C++項目配置

OpenVINO GenAI C++項目的安裝與配置與OpenVINO基礎版本完全一致,如果你之前配置過OpenVINO,那么此處可以完全忽略。此外,我們此處使用OpenCV進行圖像數(shù)據(jù)處理和展示,因此此處還需要安裝OpenCV第三方庫,安裝方式大家可以自行百度查找。

首先訪問下面鏈接,進入下載頁面:

https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/download.html

然后再下載頁面選擇相應的包以及環(huán)境,然后點擊下載鏈接進行下載,如下圖所示:

30f42398-0e10-11f0-9310-92fbcf53809c.png

文件下載完成后,將其解壓到任意目錄,此處建議解壓到C:Program FilesIntel目錄下,并將文件夾名修改為較為簡潔表述,如下圖所示:

30fefbc4-0e10-11f0-9310-92fbcf53809c.png

最后在環(huán)境變量PATH中添加以下路徑:

C:Program FilesIntelopenvino_genai_windows_2025.0.0.0_x86_64 untimeinintel64Debug

C:Program FilesIntelopenvino_genai_windows_2025.0.0.0_x86_64 untimeinintel64Release

C:Program FilesIntelopenvino_genai_windows_2025.0.0.0_x86_64 untime3rdparty bbin

至此為止,我們便完成了OpenVINO GenAI 下載與安裝。

C++項目主要是需要配置包含目錄、庫目錄以及附加依賴項,分別在C++項目中依次進行配置就可以:

包含目錄:

# Debug和Release

C:Program Files (x86)Intelopenvino_genai_2024.2 untimeinclude

C:Program Files (x86)Intelopenvino_genai_2024.2 untimeincludeopenvinogenai

C:Program Files (x86)Intelopenvino_genai_2024.2 untimeincludeopenvino

C:Program FilesIntelopencv_4.11.0uildinclude

庫目錄:

# Debug

C:Program Files (x86)Intelopenvino_genai_2024.2 untimelibintel64Debug

C:Program FilesIntelopencv_4.11.0uildx64vc16lib

# Release

C:Program Files (x86)Intelopenvino_genai_2024.2 untimelibintel64Release

C:Program FilesIntelopencv_4.11.0uildx64vc16lib

附加依賴項

# Debug

openvinod.lib

openvino_genaid.lib

opencv_world4110d.lib

# Release

openvino.lib

openvino_genai.lib

opencv_world4110.lib

上面依賴庫路徑只是本機配置路徑,大家在復現(xiàn)的時候可以根據(jù)本機路徑進行配置。由于OpenVINO GenAI已經(jīng)將模型的前后處理流程進行了封裝,因此在使用時代碼十分簡潔。下面是模型推理的核心代碼:

#include "image_generate.h"


int text_generate_image(std::string model_path, std::string device) {
  try {
    std::string prompt;
    ov::genai::Text2ImagePipeline pipe(model_path, device);
    while (1) {
      std::cout << "------------------------" << std::endl << "Please ask:" << std::endl;
 ? ? ? ? ? ?std::getline(std::cin, prompt);
 ? ? ? ? ? ?ov::Tensor image = pipe.generate((prompt),
 ? ? ? ? ? ? ? ?ov::width(1024),
 ? ? ? ? ? ? ? ?ov::height(512),
 ? ? ? ? ? ? ? ?ov::num_inference_steps(4),
 ? ? ? ? ? ? ? ?ov::num_images_per_prompt(1));


 ? ? ? ? ? ?cv::Mat mat = tensor_to_mat(image);
 ? ? ? ? ? ?cv::imshow("image", mat);
 ? ? ? ? ? ?cv::waitKey(0);
 ? ? ? ?}
 ? ? ? ?return EXIT_SUCCESS;
 ? ?}
 ? ?catch (const std::exception& error) {
 ? ? ? ?try {
 ? ? ? ? ? ?std::cerr << error.what() << '
';
 ? ? ? ?}
 ? ? ? ?catch (const std::failure&) {}
 ? ? ? ?return EXIT_FAILURE;
 ? ?}
 ? ?catch (...) {
 ? ? ? ?try {
 ? ? ? ? ? ?std::cerr << "Non-exception object thrown
";
 ? ? ? ?}
 ? ? ? ?catch (const std::failure&) {}
 ? ? ? ?return EXIT_FAILURE;
 ? ?}
}
}

項目全部源碼已經(jīng)上傳到GitHub上,源碼鏈接為:

https://github.com/guojin-yan/OpenVINO-GenAI-Samples/tree/master/src/ImageGenerate

5效果演示

在運行代碼后,我們可以根據(jù)自己的想法進行提問,程序就會調(diào)用模型進行推理實現(xiàn)圖像生成。

6總結

本文詳細介紹了在英特爾 酷睿 Ultra AI PC 上部署多種圖像生成模型,快速實現(xiàn)文生圖功能的全流程。

英特爾酷睿 Ultra 200V 系列處理器憑借全新模塊化結構、封裝工藝以及先進的性能核與能效核、Xe2 微架構銳炫 GPU、第四代 NPU 等技術,帶來了顯著的性能提升。酷睿 Ultra 9 288V 作為旗艦型號,具備強大的多核性能、高頻率的 GPU 以及可觀的 NPU 算力,為圖像生成模型的運行提供了堅實的硬件支撐。OpenVINO GenAI 作為英特爾推出的生成式 AI 開發(fā)工具庫,基于 OpenVINO 工具套件構建,專注于在英特爾硬件上高效優(yōu)化和部署生成式模型。未來我們將基于OpenVINO GenAI C++ API推出C# API,實現(xiàn)在C#平臺部署大模型。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19595

    瀏覽量

    232220
  • 英特爾
    +關注

    關注

    61

    文章

    10111

    瀏覽量

    173220
  • 酷睿
    +關注

    關注

    2

    文章

    436

    瀏覽量

    36675
  • Ultra
    +關注

    關注

    0

    文章

    56

    瀏覽量

    9910
  • 圖像生成
    +關注

    關注

    0

    文章

    24

    瀏覽量

    6960

原文標題:開發(fā)者實戰(zhàn)|在英特爾? 酷睿? Ultra AI PC 上部署多種圖像生成模型快速實現(xiàn)文生圖功能

文章出處:【微信號:英特爾物聯(lián)網(wǎng),微信公眾號:英特爾物聯(lián)網(wǎng)】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    開啟AI PC新紀元!英特爾Ultra重磅發(fā)布,勝任200億參數(shù)大語言模型

    12月15日下午,以“AI無處不在 創(chuàng)芯無所不及”為主題的2023英特爾新品發(fā)布會在北京舉辦,英特爾正式推出了基于Intel4制程,采用3D封裝技術的
    的頭像 發(fā)表于 12-16 15:14 ?2659次閱讀
    開啟<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>新紀元!<b class='flag-5'>英特爾</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b><b class='flag-5'>Ultra</b>重磅發(fā)布,勝任200億參數(shù)大語言<b class='flag-5'>模型</b>

    輕薄本也能運行大語言模型英特爾推動 PC 生成AI 落地

    展示了他們 AIGC 上的技術方向,并進行了多個應用的演示。 首先,英特爾介紹了他們大語言模型方面的優(yōu)化和支持。我們傳統(tǒng)的認知里,運行
    的頭像 發(fā)表于 08-25 09:26 ?1253次閱讀
    <b class='flag-5'>酷</b><b class='flag-5'>睿</b>輕薄本也能運行大語言<b class='flag-5'>模型</b>,<b class='flag-5'>英特爾</b>推動 <b class='flag-5'>PC</b> <b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 落地

    英特爾發(fā)布新一代移動端處理器——Ultra系列

     12月7日的聯(lián)想集團“AI PC 產(chǎn)業(yè)創(chuàng)新論壇”上,英特爾中國區(qū)技術總經(jīng)理高宇透露,新一代
    的頭像 發(fā)表于 12-14 17:14 ?2063次閱讀

    AI 無處不在,英特爾Ultra 和第五代英特爾至強可擴展處理器正式發(fā)布

    英特爾 ??Ultra處理器和第五代英特爾 ? 至強 ? 可擴展處理器支持的AI產(chǎn)品亮相,展
    的頭像 發(fā)表于 12-16 16:05 ?849次閱讀
    <b class='flag-5'>AI</b> 無處不在,<b class='flag-5'>英特爾</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b><b class='flag-5'>Ultra</b> 和第五代<b class='flag-5'>英特爾</b>至強可擴展處理器正式發(fā)布

    浪潮信息&quot;源2.0&quot;大模型YuanChat支持英特爾最新商用AI PC

    % 。企業(yè)可以全新的英特爾商用客戶端AI PC上,使用AI PC
    的頭像 發(fā)表于 03-27 22:52 ?642次閱讀
    浪潮信息&quot;源2.0&quot;大<b class='flag-5'>模型</b>YuanChat支持<b class='flag-5'>英特爾</b>最新商用<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>

    英特爾二季度對Ultra處理器供應受限

    英特爾首席執(zhí)行官帕特·基辛格最新的財報電話會議上透露,受晶圓級封裝產(chǎn)能限制,二季度Ultra處理器的供應將面臨挑戰(zhàn)。隨著
    的頭像 發(fā)表于 05-06 11:04 ?793次閱讀

    英特爾Ultra處理器突破500個AI模型優(yōu)化

    英特爾最新推出的英特爾? ? Ultra處理器上宣布,超過500款
    的頭像 發(fā)表于 05-09 11:18 ?916次閱讀

    已有超過500款AI模型英特爾Ultra處理器上得以優(yōu)化運行

    近日,英特爾宣布全新英特爾 Ultra處理器上,有超過500款
    的頭像 發(fā)表于 05-11 09:31 ?932次閱讀

    英特爾Ultra處理器上優(yōu)化和部署YOLOv8模型

    英特爾 Ultra處理器是英特爾公司推出的一個高端處理器品牌,其第一代產(chǎn)品基于Meteor Lake架構,使用Intel 4制程,單顆
    的頭像 發(fā)表于 05-30 17:16 ?2466次閱讀
    <b class='flag-5'>在</b><b class='flag-5'>英特爾</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b><b class='flag-5'>Ultra</b>處理器上優(yōu)化和<b class='flag-5'>部署</b>YOLOv8<b class='flag-5'>模型</b>

    如何將Llama3.1模型部署英特爾Ultra處理器

    本文從搭建環(huán)境開始,一步一步幫助讀者實現(xiàn)只用五行代碼便可將Llama3.1模型部署英特爾
    的頭像 發(fā)表于 07-26 09:51 ?2775次閱讀
    如何將Llama3.1<b class='flag-5'>模型</b><b class='flag-5'>部署</b><b class='flag-5'>在</b><b class='flag-5'>英特爾</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b><b class='flag-5'>Ultra</b>處理器

    英特爾發(fā)布Ultra 200S系列臺式機處理器

    近日,英特爾正式推出了Ultra 200S系列處理器家族,為臺式機平臺帶來了全新的AI PC
    的頭像 發(fā)表于 10-11 17:36 ?721次閱讀

    智譜清言英特爾Ultra專享版發(fā)布,離線模型玩轉AIPC

    近日,國內(nèi)領先的大模型廠商智譜在智譜清言的官網(wǎng)發(fā)布了智譜清言英特爾Ultra專享版,這個版本可以利用
    的頭像 發(fā)表于 12-18 11:52 ?499次閱讀

    智譜發(fā)布智譜清言英特爾Ultra專享版

    近日,國內(nèi)頂尖的大模型廠商智譜在官方網(wǎng)站智譜清言上,正式推出了智譜清言英特爾Ultra專享版。這一版本充分利用了
    的頭像 發(fā)表于 12-19 11:37 ?538次閱讀

    智譜發(fā)布清言英特爾Ultra專享版

    近日,國內(nèi)知名大模型廠商智譜在其官方網(wǎng)站——智譜清言上,正式推出了針對英特爾Ultra處理器的專享版應用。這一版本充分利用了
    的頭像 發(fā)表于 12-24 10:49 ?527次閱讀

    英特爾Ultra AI PC上用NPU部署YOLOv11與YOLOv12

    最新的英特爾 Ultra 處理器(第二代)讓我們能夠在臺式機、移動設備和邊緣中實現(xiàn)大多數(shù) AI 體驗,將
    的頭像 發(fā)表于 03-03 15:32 ?862次閱讀
    <b class='flag-5'>在</b><b class='flag-5'>英特爾</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b><b class='flag-5'>Ultra</b> <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>上用NPU<b class='flag-5'>部署</b>YOLOv11與YOLOv12
    主站蜘蛛池模板: 五月婷婷之综合激情 | 狠狠色狠狠色综合 | 热久久综合这里只有精品电影 | 五月婷婷影院 | 又粗又大又爽又色又过瘾视频 | 久久手机视频 | 97色涩 | 99热久久久久久久免费观看 | 国产成人精品曰本亚洲78 | 美女牲交视频一级毛片 | 夜间免费视频 | 亚洲综合色站 | 美女扒开尿口给男人桶视频免费 | 天天干天天操天天做 | 日本精品卡一卡2卡3卡四卡三卡 | 欧美另类亚洲一区二区 | 你懂的在线观看视频 | 成人欧美一区二区三区视频 | 国产又黄又免费aaaa视频 | 天天玩天天干 | 天天夜约 | 天堂网www在线资源链接 | 成人xxxxx| 日产国产精品亚洲系列 | 成人观看天堂在线影片 | 在线观看深夜观看网站免费 | 丁香久久婷婷 | 日本黄色大片免费看 | 久久天天躁夜夜躁狠狠躁2015 | 一区二区不卡视频 | 色天天综合网 | 综合五月天婷婷丁香 | 五月天婷婷久久 | 四虎网址最新 | 伊人成人在线观看 | 欧美性极品高清 | 免费观看欧美一级片 | 97在线精品 | 精品一区二区在线观看 | 美女视频一区二区三区在线 | 天天干天天色天天 |