12月28日,昆侖芯科技將聯(lián)合百度飛槳FastDeploy團(tuán)隊(duì)帶來“產(chǎn)業(yè)級(jí)AI模型部署全攻略 -昆侖芯科技專場(chǎng)”直播課程,就產(chǎn)業(yè)AI硬件部署解決方案進(jìn)行交流,屆時(shí)會(huì)詳細(xì)講解昆侖芯AI加速卡R200特性,并實(shí)戰(zhàn)昆侖芯科技硬件與FastDeploy如何快速完成AI模型部署。
共同探討AI部署相關(guān)話題!
關(guān)于FastDeploy
為了解決AI部署落地難題,百度飛槳發(fā)布了新一代面向產(chǎn)業(yè)實(shí)踐的推理部署工具FastDeploy,旨在為AI開發(fā)者提供模型部署最優(yōu)解。FastDeploy具備全場(chǎng)景、簡(jiǎn)單易用、極致高效兩大特點(diǎn),可滿足開發(fā)者對(duì)高性能部署的需求,大幅提升AI產(chǎn)業(yè)部署的開發(fā)效率。
全場(chǎng)景:多端部署,統(tǒng)一部署API,一行代碼切換不同推理后端和推理硬件;多框架支持,一行命令實(shí)現(xiàn)其他深度學(xué)習(xí)框架到飛槳以及ONNX的相互轉(zhuǎn)換;多硬件適配,目前支持X86 CPU、NVIDIA GPU、Jetson、昆侖芯XPU、GraphcoreIPU、ARM CPU(聯(lián)發(fā)科、瑞芯微、樹莓派、高通等硬件)、瑞芯微NPU、晶晨NPU、恩智浦NPU等十多類AI硬件。
簡(jiǎn)單易用:多語言統(tǒng)一模型API,三行代碼搞定AI模型部署。模型豐富,預(yù)置飛槳和生態(tài)的150+產(chǎn)業(yè)級(jí)SOTA模型,覆蓋Text、Vision、Speech、Cross-modal四大領(lǐng)域;覆蓋20+主流應(yīng)用場(chǎng)景,算法場(chǎng)景包括圖像分類、圖像分割、語義分割、物體檢測(cè)、字符識(shí)別(OCR)、人臉檢測(cè)、人臉關(guān)鍵點(diǎn)檢測(cè)、人臉識(shí)別、人像扣圖、視頻扣圖、圖像超分、姿態(tài)估計(jì)、文本分類、信息抽取、文圖生成、行人跟蹤、語音合成等。
極致性能:聯(lián)合自動(dòng)壓縮工具與推理引擎深度聯(lián)動(dòng)的能力以及AI模型前后預(yù)處理加速庫(kù)的優(yōu)化,實(shí)現(xiàn)AI模型端到端極致的推理性能。
關(guān)于昆侖芯科技
昆侖芯科技深耕AI加速領(lǐng)域10余年,專注打造擁有強(qiáng)大通用性、易用性和高性能的通用人工智能芯片。目前,昆侖芯科技已實(shí)現(xiàn)兩代通用AI芯片產(chǎn)品的量產(chǎn)及落地應(yīng)用,在互聯(lián)網(wǎng)、智能制造、智慧交通、智慧金融等領(lǐng)域均已實(shí)現(xiàn)規(guī)模部署。在云端推理訓(xùn)練均有完備覆蓋的基礎(chǔ)上,應(yīng)用于邊緣場(chǎng)景的昆侖芯AI加速卡R100已正式發(fā)布,進(jìn)一步擴(kuò)充落地場(chǎng)景。更先進(jìn)的第三代、第四代芯片產(chǎn)品正在研發(fā)中。
昆侖芯科技致力于構(gòu)建軟硬一體化的AI芯片生態(tài),打造從芯片到終端、應(yīng)用、云端、服務(wù)的生態(tài)閉環(huán)。此前,昆侖芯2代AI芯片及AI加速卡與飛槳完成III級(jí)兼容性測(cè)試,兼容性表現(xiàn)良好。
昆侖芯和飛槳的適配自2018年啟動(dòng),目前雙方已共同完成框架層面的適配,支持XPU Device及大部分算子。在雙方合作的訓(xùn)練部分中,昆侖芯XPU和飛槳的適配在一些場(chǎng)景下能夠做到通過僅切換一行代碼便可指定到昆侖芯XPU的后端,低成本地從CPU/GPU切換到昆侖芯,滿足絕大部分用戶的需求。目前,昆侖芯軟件棧已集成到飛槳上,完成對(duì)接與支持。此外,雙方已經(jīng)完成了多款主流CPU及操作系統(tǒng)的適配,方便廣大開發(fā)者和用戶更高效、更便捷地開發(fā)。
昆侖芯科技的使命是“讓計(jì)算更智能”,愿景是“成為劃時(shí)代,全球領(lǐng)先的智能計(jì)算公司”。昆侖芯科技始終致力于成為芯片創(chuàng)新鏈、產(chǎn)業(yè)鏈的“賦能者”,與上下游企業(yè)攜手,通過用算力賦能不同場(chǎng)景中的AI應(yīng)用,驅(qū)動(dòng)千行百業(yè)的智能化轉(zhuǎn)型。
-
API
+關(guān)注
關(guān)注
2文章
1547瀏覽量
63206 -
AI
+關(guān)注
關(guān)注
87文章
33250瀏覽量
273518 -
NPU
+關(guān)注
關(guān)注
2文章
308瀏覽量
19289 -
飛槳
+關(guān)注
關(guān)注
0文章
35瀏覽量
2403 -
昆侖芯科技
+關(guān)注
關(guān)注
0文章
32瀏覽量
789
原文標(biāo)題:直播預(yù)告|明晚20:30鎖定『產(chǎn)業(yè)級(jí)AI模型部署全攻略 - 昆侖芯科技專場(chǎng)』
文章出處:【微信號(hào):昆侖芯科技,微信公眾號(hào):昆侖芯科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
UC3854 功率因數(shù)校正設(shè)計(jì)全攻略:從理論到實(shí)戰(zhàn)

昆侖芯服務(wù)器中標(biāo)招商銀行AI芯片資源項(xiàng)目
無感無刷直流電機(jī)驅(qū)動(dòng)全攻略
云軸科技ZStack智塔攜手昇騰AI實(shí)現(xiàn)DeepSeek模型部署

添越智創(chuàng)基于 RK3588 開發(fā)板部署測(cè)試 DeepSeek 模型全攻略
首發(fā) | 昆侖芯 | 國(guó)產(chǎn)AI卡Deepseek訓(xùn)練推理全版本適配、性能卓越,一鍵部署等您來(附文檔下載方式)

避坑指南:云服務(wù)器數(shù)據(jù)庫(kù)購(gòu)買方法全攻略
企業(yè)AI模型部署攻略
恩智浦eIQ Time Series Studio 工具使用全攻略

AI模型部署和管理的關(guān)系
霧化芯配件外觀尺寸檢測(cè)全攻略

評(píng)論