作者:
顏國進英特爾創(chuàng)新大使
1前言
1.1英特爾 酷睿 Ultra 2處理器
全新英特爾酷睿Ultra 200V系列處理器對比上代Meteor Lake,升級了模塊化結構、封裝工藝,采用全新性能核與能效核、英特爾硬件線程調(diào)度器、Xe2微架構銳炫GPU、第四代NPU等,由此也帶來了CPU性能提升18%,GPU性能提升30%,整體功耗降低50%,以及120TOPS平臺AI算力。
酷睿Ultra 200V系列處理器共有9款SKU,包括1款酷睿Ultra 9、4款酷睿Ultra 7以及4款酷睿Ultra 5,全系8核心8線程(4個性能核與4個能效核),具體規(guī)格如下:
作為新一代旗艦,酷睿Ultra 9 288V性能核頻率最高5.1GHz、能效核頻率最高3.7GHz,擁有12MB三級緩存。GPU方面,集成銳炫140V顯卡,擁有8個全新Xe2核心、8個光線追蹤單元,頻率最高2.05GHz,可以實現(xiàn)67TOPSAI算力。而NPU集成6個第四代神經(jīng)計算引擎,AI算力提升至48TOPS。
本文是用KHARAS(深圳市世野科技 https://www.khadas.com/product-page/mind-maker-kit-lnl) 提供基于英特爾酷睿Ultra的AI PC,只有435g, 以下為其參數(shù):
主要特點
oIntel Core Ultra Processor Series 2
oAI Performance: up to 115 TOPS
oNPU: 4.0 AI Engine, up to 47 TOPS
oGPU: Intel Arc 140V, up to 64 TOPS
o32GB LPDDR5X Memory, 1TB PCIe SSD
oCopilot+ PC: Windows AI assistant
oBattery Life Optimization
oWiFi+ Bluetooth: AX211D2
處理器信息如下表所示:
1.2OpenVINO GenAI
OpenVINO GenAI 是英特爾推出的生成式 AI 開發(fā)工具庫,基于 OpenVINO 工具套件構建,專注于在英特爾硬件(CPU、GPU、NPU)上高效優(yōu)化和部署生成式模型。其核心能力涵蓋 ?文本生成?、?圖像生成?、?多模態(tài)推理? 等場景,通過硬件加速、模型壓縮和開發(fā)工具鏈集成,顯著提升生成式 AI 的推理性能與部署效率。開發(fā)者可通過 Text2ImagePipeline 工具部署stable-diffusion、Flux.1d等圖像生成模型及變體快速生成高精度圖像,并結合 LoRA 適配器實現(xiàn)風格化定制?。針對大語言模型(如 Mistral-7B、DeepSeek 蒸餾模型),GenAI 提供動態(tài)批處理、INT8 量化和提示詞解碼優(yōu)化,在文檔問答等高相似性場景中減少生成延遲?。此外,其多模態(tài)能力擴展至語音轉錄(Whisper 模型)和視覺語言模型(如 LLaVA),支持端到端跨模態(tài)推理?。
1.3 文生圖模型
文生圖模型是基于深度學習技術實現(xiàn)文本到圖像生成的核心工具,其核心原理是通過自然語言處理與計算機視覺的結合,將文本語義轉化為視覺元素,并利用逆向擴散過程逐步生成高質(zhì)量圖像?。這類模型主要采用?擴散模型框架?,通過前向加噪與逆向去噪的迭代過程,將隨機噪聲逐步重構為符合文本描述的圖像,其中UNet網(wǎng)絡承擔著跨模態(tài)特征融合的關鍵角色?23。當前主流模型已廣泛應用于?藝術創(chuàng)作?(如插畫風格化生成)、?工業(yè)設計?(產(chǎn)品原型可視化)及?影視游戲?(場景概念圖生成)等領域,尤其在需要快速原型迭代的場景中展現(xiàn)出顯著優(yōu)勢?。
在具體模型中,?Stable Diffusion?作為開源領域的標桿,基于潛在擴散模型(LDM)構建,其核心創(chuàng)新在于將圖像壓縮至低維潛在空間進行擴散運算,大幅降低計算開銷?23。該模型支持ControlNet插件實現(xiàn)姿態(tài)控制、邊緣引導等精細化生成,并通過LoRA微調(diào)技術快速適配特定藝術風格,例如在生成“卡通小老虎頭像”時可通過調(diào)整提示詞參數(shù)實現(xiàn)毛發(fā)細節(jié)優(yōu)化?13。而?FLUX.1?作為2024年后起之秀,則通過動態(tài)分層量化技術突破硬件限制,在英特爾CPU/GPU上實現(xiàn)了更高分辨率的實時生成(如4096×4096像素級輸出),其獨有的多模態(tài)聯(lián)合訓練框架支持“文本+草圖”混合輸入,特別適用于工業(yè)設計領域的產(chǎn)品外觀迭代?14。
FLUX.1還創(chuàng)新性地引入Yarn風格LoRA適配器,在生成機械結構圖時能自動保持幾何比例精確性,較傳統(tǒng)模型減少30%的后期人工修正工作量?46。這兩大模型分別代表開源生態(tài)與商業(yè)化落地的技術路徑,推動文生圖技術向專業(yè)化、場景化方向持續(xù)演進?。
2模型下載與轉換
2.1環(huán)境配置
模型下載與轉換需要使用的Python環(huán)境,因此此處我們采用Anaconda,然后用下面的命令創(chuàng)建并激活名為optimum_intel的虛擬環(huán)境:
conda create -n optimum_intel python=3.11 #創(chuàng)建虛擬環(huán)境 conda activate optimum_intel #激活虛擬環(huán)境 python -m pip install --upgrade pip #升級pip到最新版本
由于Optimum Intel代碼迭代速度很快,所以選用從源代碼安裝的方式,安裝Optimum Intel和其依賴項OpenVINO 與NNCF。
python -m pip install "optimum-intel[openvino,nncf]"@git+https://github.com/huggingface/optimum-intel.git
2.2常規(guī)方式下載與轉換模型
目前OpenVINO GenAI支持了多種圖像生成模型,包括了Latent Consistency Model、Stable Diffusion、Stable Diffusion Inpainting、Flux等系列模型,模型導出和下載方式基本一致,此處以stable-diffusion-v1-5模型為例,演示文生圖模型的下載方式。
此處我們使用Git進行模型下載,目前文生圖這種大模型文件可以在HuggingFace社區(qū)下載,在HuggingFace社區(qū)檢索對應的模型,并獲取模型對應的鏈接,使用Git輸入以下指令:
git clone https://huggingface.co/stable-diffusion-v1-5/stable-diffusion-v1-5
不過對于國內(nèi)的小伙伴可能訪問HuggingFace社區(qū)不方便,不過如果我們要想快速下載模型,可以通過國內(nèi)的魔塔社區(qū)進行下載,下載鏈接如下所示:
git clone https://www.modelscope.cn/AI-ModelScope/stable-diffusion-v1-5.git
將模型保存在本地后,需要使用optimum-intel工具將模型轉換為OpenVINO GenAI格式,此外也可以將模型進行量化,加快模型推理速度,轉換命令如下所示:
optimum-cli export openvino --model ./stable-diffusion-v1-5 –task text-to-image --weight-format int4 --group-size 64 --ratio 1.0 ./stable-diffusion-v1-5-int4
2.3模型快速獲取
但是上面模型獲取和下載方式依舊比較麻煩,并且轉換模型需要更大的內(nèi)存,且在環(huán)境安裝和模型下載時容易出現(xiàn)錯誤,不過此處OpenVINO 官方提供了轉換好的模型,可以直接下載就可以使用,文生圖模型庫鏈接如下所示:
https://huggingface.co/collections/OpenVINO/image-generation-67697d9952fb1eee4a252aa8
此處也可以通過Git進行下載,使用Git下載鏈接如下:
git clone https://huggingface.co/OpenVINO/stable-diffusion-v1-5-int8-ov
同樣地,對于不方便訪問HuggingFace社區(qū)的小伙伴,此處依舊可以使用莫塔社區(qū)進行下載,下載鏈接如下:
git clone https://www.modelscope.cn/OpenVINO/stable-diffusion-v1-5-int8-ov.git
下載后的模型文件為:
3OpenVINO GenAI 安裝與 C++項目配置
OpenVINO GenAI C++項目的安裝與配置與OpenVINO基礎版本完全一致,如果你之前配置過OpenVINO,那么此處可以完全忽略。此外,我們此處使用OpenCV進行圖像數(shù)據(jù)處理和展示,因此此處還需要安裝OpenCV第三方庫,安裝方式大家可以自行百度查找。
首先訪問下面鏈接,進入下載頁面:
https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/download.html
然后再下載頁面選擇相應的包以及環(huán)境,然后點擊下載鏈接進行下載,如下圖所示:
文件下載完成后,將其解壓到任意目錄,此處建議解壓到C:Program FilesIntel目錄下,并將文件夾名修改為較為簡潔表述,如下圖所示:
最后在環(huán)境變量PATH中添加以下路徑:
C:Program FilesIntelopenvino_genai_windows_2025.0.0.0_x86_64 untimeinintel64Debug
C:Program FilesIntelopenvino_genai_windows_2025.0.0.0_x86_64 untimeinintel64Release
C:Program FilesIntelopenvino_genai_windows_2025.0.0.0_x86_64 untime3rdparty bbin
至此為止,我們便完成了OpenVINO GenAI 下載與安裝。
C++項目主要是需要配置包含目錄、庫目錄以及附加依賴項,分別在C++項目中依次進行配置就可以:
包含目錄:
# Debug和Release
C:Program Files (x86)Intelopenvino_genai_2024.2 untimeinclude
C:Program Files (x86)Intelopenvino_genai_2024.2 untimeincludeopenvinogenai
C:Program Files (x86)Intelopenvino_genai_2024.2 untimeincludeopenvino
C:Program FilesIntelopencv_4.11.0uildinclude
庫目錄:
# Debug
C:Program Files (x86)Intelopenvino_genai_2024.2 untimelibintel64Debug
C:Program FilesIntelopencv_4.11.0uildx64vc16lib
# Release
C:Program Files (x86)Intelopenvino_genai_2024.2 untimelibintel64Release
C:Program FilesIntelopencv_4.11.0uildx64vc16lib
附加依賴項
# Debug
openvinod.lib
openvino_genaid.lib
opencv_world4110d.lib
# Release
openvino.lib
openvino_genai.lib
opencv_world4110.lib
上面依賴庫路徑只是本機配置路徑,大家在復現(xiàn)的時候可以根據(jù)本機路徑進行配置。由于OpenVINO GenAI已經(jīng)將模型的前后處理流程進行了封裝,因此在使用時代碼十分簡潔。下面是模型推理的核心代碼:
#include "image_generate.h" int text_generate_image(std::string model_path, std::string device) { try { std::string prompt; ov::genai::Text2ImagePipeline pipe(model_path, device); while (1) { std::cout << "------------------------" << std::endl << "Please ask:" << std::endl; ? ? ? ? ? ?std::getline(std::cin, prompt); ? ? ? ? ? ?ov::Tensor image = pipe.generate((prompt), ? ? ? ? ? ? ? ?ov::width(1024), ? ? ? ? ? ? ? ?ov::height(512), ? ? ? ? ? ? ? ?ov::num_inference_steps(4), ? ? ? ? ? ? ? ?ov::num_images_per_prompt(1)); ? ? ? ? ? ?cv::Mat mat = tensor_to_mat(image); ? ? ? ? ? ?cv::imshow("image", mat); ? ? ? ? ? ?cv::waitKey(0); ? ? ? ?} ? ? ? ?return EXIT_SUCCESS; ? ?} ? ?catch (const std::exception& error) { ? ? ? ?try { ? ? ? ? ? ?std::cerr << error.what() << ' '; ? ? ? ?} ? ? ? ?catch (const std::failure&) {} ? ? ? ?return EXIT_FAILURE; ? ?} ? ?catch (...) { ? ? ? ?try { ? ? ? ? ? ?std::cerr << "Non-exception object thrown "; ? ? ? ?} ? ? ? ?catch (const std::failure&) {} ? ? ? ?return EXIT_FAILURE; ? ?} } }
項目全部源碼已經(jīng)上傳到GitHub上,源碼鏈接為:
https://github.com/guojin-yan/OpenVINO-GenAI-Samples/tree/master/src/ImageGenerate
5效果演示
在運行代碼后,我們可以根據(jù)自己的想法進行提問,程序就會調(diào)用模型進行推理實現(xiàn)圖像生成。
6總結
本文詳細介紹了在英特爾 酷睿 Ultra AI PC 上部署多種圖像生成模型,快速實現(xiàn)文生圖功能的全流程。
英特爾酷睿 Ultra 200V 系列處理器憑借全新模塊化結構、封裝工藝以及先進的性能核與能效核、Xe2 微架構銳炫 GPU、第四代 NPU 等技術,帶來了顯著的性能提升。酷睿 Ultra 9 288V 作為旗艦型號,具備強大的多核性能、高頻率的 GPU 以及可觀的 NPU 算力,為圖像生成模型的運行提供了堅實的硬件支撐。OpenVINO GenAI 作為英特爾推出的生成式 AI 開發(fā)工具庫,基于 OpenVINO 工具套件構建,專注于在英特爾硬件上高效優(yōu)化和部署生成式模型。未來我們將基于OpenVINO GenAI C++ API推出C# API,實現(xiàn)在C#平臺部署大模型。
-
處理器
+關注
關注
68文章
19595瀏覽量
232220 -
英特爾
+關注
關注
61文章
10111瀏覽量
173220 -
酷睿
+關注
關注
2文章
436瀏覽量
36675 -
Ultra
+關注
關注
0文章
56瀏覽量
9910 -
圖像生成
+關注
關注
0文章
24瀏覽量
6960
原文標題:開發(fā)者實戰(zhàn)|在英特爾? 酷睿? Ultra AI PC 上部署多種圖像生成模型快速實現(xiàn)文生圖功能
文章出處:【微信號:英特爾物聯(lián)網(wǎng),微信公眾號:英特爾物聯(lián)網(wǎng)】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
開啟AI PC新紀元!英特爾酷睿Ultra重磅發(fā)布,勝任200億參數(shù)大語言模型

酷睿輕薄本也能運行大語言模型,英特爾推動 PC 生成式 AI 落地

英特爾發(fā)布新一代移動端處理器——酷睿Ultra系列
英特爾二季度對酷睿Ultra處理器供應受限
已有超過500款AI模型在英特爾酷睿Ultra處理器上得以優(yōu)化運行
在英特爾酷睿Ultra處理器上優(yōu)化和部署YOLOv8模型

英特爾發(fā)布酷睿Ultra 200S系列臺式機處理器
智譜清言英特爾酷睿Ultra專享版發(fā)布,離線模型玩轉AIPC
智譜發(fā)布智譜清言英特爾酷睿Ultra專享版
智譜發(fā)布清言英特爾酷睿Ultra專享版
在英特爾酷睿Ultra AI PC上用NPU部署YOLOv11與YOLOv12

評論