novumind異構(gòu)智能：人工智能正在重新定義邊緣計算

物聯(lián)網(wǎng)(iot)的發(fā)展勢如破竹,智能邊緣計算也成為了最熱門的市場領(lǐng)域。人工智能+物聯(lián)網(wǎng)(aiot)+邊緣計算,將打破傳統(tǒng)iot數(shù)據(jù)中心不在邊緣設(shè)備上的弊端,能夠讓人工智能在邊緣設(shè)備上變得更智能、更敏捷,滿足更多應(yīng)用場景的需求。邊緣設(shè)備上的本地計算意味著大量的數(shù)據(jù)需要被有效的推理、分析和提取,對算力的需求非常之高,同時要求低延遲低功耗。

異構(gòu)智能創(chuàng)始人兼首席執(zhí)行官吳韌博士在近期舉行的2019 sv connect峰會主題演講中,分享了人工智能如何在網(wǎng)絡(luò)邊緣實(shí)現(xiàn)高算力低功耗的觀點(diǎn)。他認(rèn)為,半導(dǎo)體行業(yè)正在不斷向人工智能領(lǐng)域拓展,傳統(tǒng)的芯片構(gòu)架已經(jīng)不能夠滿足人工智能的各種應(yīng)用需求,尤其是在邊緣設(shè)備上的應(yīng)用。

吳韌博士在sv connect 2019上的主旨演講

做人工智能的專用領(lǐng)域架構(gòu)

“通用處理器時代即將結(jié)束,未來計算性能的提高將以專用處理器構(gòu)架(dsa)為突破口,適用于機(jī)器學(xué)習(xí)和推斷神經(jīng)網(wǎng)絡(luò)處理器?！眳遣┦窟€引用圖靈獎獲得者h(yuǎn)ennessy與patterson的觀點(diǎn),“dsa is the only path to move forward(專用處理器構(gòu)架是通向未來的唯一道路)”。dsa是異構(gòu)計算的一種表現(xiàn)形式,異構(gòu)計算的直接解釋是指不同構(gòu)架的幾種處理器組合在一起進(jìn)行計算,理念核心在于使用專業(yè)的硬件做專業(yè)的事情。dsa旨在對特定領(lǐng)域進(jìn)行特定的優(yōu)化,發(fā)揮硬件性能的最高效力。

傳統(tǒng)上,深度學(xué)習(xí)技術(shù)依賴高性能gpu來滿足高算力需求。然而涉及到具體的消費(fèi)市場要求就沒有那么奢侈了,往往還有更為嚴(yán)格的功耗以及成本限制。尤其涉及到人工智能在不同場景的應(yīng)用,對硬件的要求往往是能夠滿足準(zhǔn)確的目標(biāo)?！皞鹘y(tǒng)芯片的構(gòu)架在進(jìn)行神經(jīng)網(wǎng)絡(luò)等人工智能計算上需要將矩陣展開來進(jìn)行計算,這個過程會導(dǎo)致很多不必要的計算和功耗。我們自主設(shè)計的novutensor芯片構(gòu)架支持原生張量計算,在保證高算力的同時,能夠達(dá)到遠(yuǎn)超于其他常見架構(gòu)的功耗比?！眳琼g博士還提到, “許多芯片公司提到自己的產(chǎn)品峰值算力很高,但是卻閉口不提計算的精度,很多高算力低功耗的背后,往往就是對計算精度的犧牲,這樣的產(chǎn)品無疑是經(jīng)不住市場考驗(yàn)的。novutensor使用獨(dú)創(chuàng)的動態(tài)半精度浮點(diǎn)計算,與標(biāo)準(zhǔn)半精度浮點(diǎn)數(shù)相比精度損失極小但能大大節(jié)省硬件開銷。”

用異構(gòu)計算思維做生意,處處都是自己人

ai時代的來臨,解決方案的需求也在進(jìn)一步明確以及增長。吳博士認(rèn)為,ai是一個賦能的產(chǎn)業(yè),異構(gòu)智能的愿景就是用ai幫助不同領(lǐng)域的企業(yè)將他們的產(chǎn)品做得更好。無論是智能安防攝像頭,智能家居,智能工廠,數(shù)據(jù)中心等,都需要能夠處理大量數(shù)據(jù)以及視頻圖像的高性價比計算引擎?！爱悩?gòu)計算的核心觀念在于發(fā)揮不同架構(gòu)處理器的優(yōu)點(diǎn),讓擅長的人做擅長的事,異構(gòu)智能的產(chǎn)品也是如此?！眳遣┦刻岬?“我們擅長的就是幫助不同產(chǎn)業(yè)賦能人工智能技術(shù),讓他們的產(chǎn)品能夠更貼近市場需求,更好的服務(wù)他們的客戶。”

隨著人工智能技術(shù)的發(fā)展,無論是云端的應(yīng)用還是終端的應(yīng)用都將會更加成熟,兩者不是此消彼長的對立,而是相輔相成的共贏。異構(gòu)智能的優(yōu)勢在于能夠提供人工智能全棧式的服務(wù),從云端到邊緣端,再從底層硬件的支持到模型的訓(xùn)練。未來,隨著計算能力的進(jìn)步和市場的發(fā)展,異構(gòu)智能將會在人工智能浪潮中扮演重要的角色。