完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>
標(biāo)簽 > gpu芯片
文章:299個(gè) 瀏覽:6132次 帖子:0個(gè)
人工智能(AI)芯片和圖形處理單元(GPU)芯片都是現(xiàn)代計(jì)算機(jī)中使用的重要組件。雖然兩者可以用于處理大規(guī)模數(shù)據(jù),但它們的設(shè)計(jì)目的是不同的。在本文中,我們...
GDDR和DDR代表什么?GDDR和DDR內(nèi)存有什么區(qū)別?
DDR 代表雙倍數(shù)據(jù)速率double data rate,GDDR 代表圖形雙倍數(shù)據(jù)速率graphics double data rate。
LayerNorm/RMSNorm的重計(jì)算實(shí)現(xiàn)
我去實(shí)測了一下,單機(jī)8卡A100訓(xùn)練LLama7B,純數(shù)據(jù)并行的情況下打開memory_efficient開關(guān)相比于不打開節(jié)省了大約2個(gè)G的顯存,如果模...
RTX 5880 Ada Generation GPU與RTX? A6000 GPU對比
NVIDIA RTX? 5880 Ada Generation GPU 是目前國內(nèi)重量級(jí) GPU,基于全新 NVIDIA Ada Lovelace 架構(gòu)...
談一談FPAI芯片的AI系統(tǒng)方案以及參考設(shè)計(jì)實(shí)例
首先,我們簡單了解下FPAI(Field Programmable AI)芯片。FPAI芯片,創(chuàng)新性地采用了異構(gòu)融合架構(gòu),即在一顆die上集成了高性能S...
日益增長的AI應(yīng)用中,對AI處理器的算力和能效提出了更高要求,用于滿足復(fù)雜的AI運(yùn)用。
2024-03-06 標(biāo)簽:嵌入式千兆以太網(wǎng)CAN接口 3098 0
大模型時(shí)代下算力芯片的背后——高速互連技術(shù)會(huì)成為性能突破口?
相信資深的PC玩家大概率都聽說過“四路泰坦”的傳說,這是指在配備四個(gè)PCIe插槽的主板上使用了四塊“泰坦”顯卡(這是當(dāng)時(shí)最強(qiáng)的旗艦級(jí)顯卡型號(hào)),通過英偉...
盤點(diǎn)一下史上最全大語言模型訓(xùn)練中的網(wǎng)絡(luò)技術(shù)
人工智能的基礎(chǔ)設(shè)施在大語言模型訓(xùn)練和推理過程中發(fā)揮了關(guān)鍵的作用。隨著大語言模型規(guī)模不斷增大,其對計(jì)算和通信的需求也在不斷增加。高
2024-03-27 標(biāo)簽:處理器人工智能網(wǎng)絡(luò)拓?fù)?/a> 2408 0
FP8在NVIDIA GPU架構(gòu)和軟件系統(tǒng)中的應(yīng)用
在深度學(xué)習(xí)和人工智能的快速發(fā)展背景下,尤其是大語言模型(Large Language Model,LLM)的蓬勃發(fā)展,模型的大小和計(jì)算復(fù)雜性不斷增加,對...
2024-03-28 標(biāo)簽:NVIDIA人工智能深度學(xué)習(xí) 1906 0
怎樣使用Accelerate庫在多GPU上進(jìn)行LLM推理呢?
大型語言模型(llm)已經(jīng)徹底改變了自然語言處理領(lǐng)域。隨著這些模型在規(guī)模和復(fù)雜性上的增長,推理的計(jì)算需求也顯著增加。
虛擬化教程: NVIDIA vGPU軟件之vPC、vApp簡析
各行各業(yè)的企業(yè)都在探索數(shù)字化轉(zhuǎn)型,尋求優(yōu)質(zhì)的線上線下協(xié)作方式。IT 管理者需要建立一個(gè)面向未來的數(shù)字工作空間,使員工無論身在何處都能保持工作的高效率。
NVIDIA Omniverse? Simulation 作為 NVIDIA Omniverse? 平臺(tái)的關(guān)鍵組件之一,由 NVIDIA 技術(shù)提供動(dòng)力支...
介紹一種自動(dòng)駕駛汽車中可行駛區(qū)域和車道分割的高效輕量級(jí)模型
本文介紹了TwinLiteNet:一種自動(dòng)駕駛汽車中可行駛區(qū)域和車道分割的高效輕量級(jí)模型。語義分割是自動(dòng)駕駛中理解周圍環(huán)境的一項(xiàng)常見任務(wù)。
2023-08-03 標(biāo)簽:嵌入式系統(tǒng)FPS自動(dòng)駕駛 1632 0
流是從生產(chǎn)者到消費(fèi)者的一系列無限事件。大量數(shù)據(jù)生成為金融交易、傳感器測量或 Web 服務(wù)器日志等事件流。流處理是對接收到的新數(shù)據(jù)事件的連續(xù)處理。
2023-12-05 標(biāo)簽:傳感器加速器機(jī)器學(xué)習(xí) 1621 0
認(rèn)識(shí)一下AI算力應(yīng)用中的光模塊產(chǎn)品
以ChatGPT為代表的AI大模型應(yīng)用普及將推動(dòng)算力需求快速增長,服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一,AI計(jì)算的普及將推動(dòng)服務(wù)器產(chǎn)業(yè)鏈光模塊向800G...
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動(dòng)駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺 | 無人機(jī) | 三菱電機(jī) | ST |
伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |