共享競爭優(yōu)勢，尋求互利雙贏
推理是指利用訓(xùn)練好的模型，使用新數(shù)據(jù)推理出各種結(jié)論。借助神經(jīng)網(wǎng)絡(luò)模型進(jìn)行運算，利用輸入的新數(shù)據(jù)來一次性獲得正確結(jié)論的過程。這也有叫做預(yù)測或推斷。
訓(xùn)練是指通過大數(shù)據(jù)訓(xùn)練出一個復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型，通過大量標(biāo)記過的數(shù)據(jù)來訓(xùn)練相應(yīng)的系統(tǒng)，使其能夠適應(yīng)特定的功能。訓(xùn)練需要較高的計算性能、能夠處理海量的數(shù)據(jù)、具有一定的通用性，以便完成各種各樣的學(xué)習(xí)任務(wù)。
所以根據(jù)承擔(dān)任務(wù)的不同，AI芯片可以分為兩類，它們分別是訓(xùn)練AI芯片和推理AI芯片。
1、訓(xùn)練芯片：用于構(gòu)建神經(jīng)網(wǎng)絡(luò)模型，注重絕對的計算能力;
2、推理芯片：利用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行推理預(yù)測，注重綜合指標(biāo)，單位能耗算力、時延、成本等都要考慮。
云端，即數(shù)據(jù)中心，在深度學(xué)習(xí)的訓(xùn)練階段需要龐大的數(shù)據(jù)量，以及大運算量，單一處理器是無法獨立完成的，因此訓(xùn)練環(huán)節(jié)僅能夠在云端實現(xiàn)。
終端，即手機(jī)、汽車、智能家居以及各種物聯(lián)網(wǎng)設(shè)備等執(zhí)行邊緣計算的智能設(shè)備。終端的數(shù)量龐大，并且需求的差異性明顯。
訓(xùn)練推理的完成目前主要集中在云端，但隨著越來越多芯片廠商的努力，很多的應(yīng)用將逐漸轉(zhuǎn)移到終端。
所以，根據(jù)部署位置，推理AI芯片又可細(xì)分為云端推理AI芯片和終端推理AI芯片：
1、云端推理
云端推理AI芯片可作為深度學(xué)習(xí)推理加速的協(xié)處理器，也可作為主處理器從以太網(wǎng)接口或USB接口接收視頻流、圖片或其它數(shù)據(jù)，執(zhí)行推理和其他計算機(jī)視覺任務(wù)。目前，除了英偉達(dá)、谷歌、賽靈思、英特爾等這些國外芯片大廠涉足云端推理芯片外，寒武紀(jì)、比特大陸等中國企業(yè)同樣積極布局該領(lǐng)域。
2、終端推理
目前，終端推理AI芯片主要應(yīng)用于智能手機(jī)、自動駕駛、機(jī)器人、智能家居等設(shè)備。它可作為深度學(xué)習(xí)推理加速的協(xié)處理器，還可以作為主處理器從以太網(wǎng)接口或USB接口接收視頻流、圖片或其它數(shù)據(jù)，執(zhí)行推理和其他計算機(jī)視覺任務(wù)。目前，除了英偉達(dá)、谷歌、賽靈思、英特爾等這些國外芯片大廠涉足云端推理芯片外，寒武紀(jì)、比特大陸等中國企業(yè)也在領(lǐng)域進(jìn)行積極的布局，并取得了不俗的成績。
?2023深圳拓普龍科技有限公司 版權(quán)所有 粵ICP備09130463號-1
13008895219 產(chǎn)品經(jīng)理
19924502528 何經(jīng)理
13378406071 李工
13008895219 雷先生
微信公眾號
