ai計(jì)算有了新物種 - 品奇數(shù)碼magicai人工智能加速技術(shù)

ai計(jì)算有了新物種 - 品奇數(shù)碼magicai人工智能加速技術(shù)

2019-03-15 16:19來(lái)源:it資訊快報(bào)//

原標(biāo)題：ai計(jì)算有了新物種 - 品奇數(shù)碼magicai人工智能加速技術(shù)

傳統(tǒng)概念中，人工智能計(jì)算需要 gpu 或?qū)ｉT的 ai 芯片（asic）進(jìn)行加速才能快速運(yùn)行。pq labs（上海品奇數(shù)碼科技有限公司） 在 ces 2019 中發(fā)布的 magicai 技術(shù)改變了而這一現(xiàn)狀，可以使 人工智能應(yīng)用在通用 cpu 上跑的比 gpu 更快。

magicai (magic tiny yolo) 在 intel i7 cpu 下運(yùn)行幀率達(dá)到 718 fps，是 titan x / 1080ti 的 3.5倍，是 intel mkl 方案的 199倍。

為什么大家都用gpu跑人工智能？

因?yàn)橛捎跉v史原因，通用cpu沒(méi)有為大規(guī)模的神經(jīng)網(wǎng)絡(luò)運(yùn)算進(jìn)行優(yōu)化，運(yùn)行效率極其低下。而整個(gè)業(yè)界和學(xué)術(shù)界在人工智能方面的研究都是建立基于圖形顯卡的編程模型上（特指 nvidia gpu 顯卡，amd gpu 缺少相關(guān)的軟件及算法）。除此之外，市場(chǎng)上還有其他的 ai 芯片，但大都基于類似的 ai 模型和優(yōu)化策略。

“人工智能的科技樹或許正沿著一條低效率的方向展開，世界上存在著其他的技術(shù)路徑值得我們?nèi)ヌ剿鳎欠駮?huì)有比現(xiàn)狀更好的技術(shù)實(shí)現(xiàn)，這就是 pq labs magicai 技術(shù)的發(fā)揮空間?！眕q labs ceo 陸飛博士表示，他同時(shí)也是 magicai 技術(shù)的核心研發(fā)人員。

有沒(méi)有其他的技術(shù)路徑？

magicai 技術(shù)擁有非?？斓倪\(yùn)行速度：可以在 intel i7 處理器上，以 718 fps 的幀率運(yùn)行 物體識(shí)別 程序而無(wú)需降低識(shí)別精度，而在同樣 cpu 上直接運(yùn)行 tiny yolo 則僅僅有 3.6 fps 的幀率。magiai（tiny magic yolo）的計(jì)算速度達(dá)到了 intel mkl 的199倍，甚至達(dá)到了經(jīng)過(guò) gpu (titan x / 1080ti) 加速的 tiny yolo 3.5倍的運(yùn)行速度。

magicai 技術(shù)的設(shè)計(jì)和開發(fā)是從深度學(xué)習(xí)最底層的數(shù)學(xué)基礎(chǔ)開始的，所有數(shù)學(xué)運(yùn)算都被重新優(yōu)化設(shè)計(jì)，重新封裝在一個(gè)叫做 “magiccompute” 的運(yùn)算庫(kù)內(nèi)，以替代 nvidia cuda，cudnn 及 intel mkl，并實(shí)現(xiàn)運(yùn)行速度的提升。例如， “卷積運(yùn)算” （所有深度學(xué)習(xí)模型的基礎(chǔ)運(yùn)算）由 “magicconvolution” 來(lái)執(zhí)行，就可以獲得性能的飛速提升。

magicai 的運(yùn)行速度提升同樣來(lái)自于其獨(dú)特的骨干網(wǎng)絡(luò)模型，運(yùn)行速度要比 mobilenet v2、shufflenet v2 等輕量化模型更快，并且準(zhǔn)確度更高。將 yolo、ssd 等模型的 骨干網(wǎng)絡(luò) 替換為 magicai，就成了全新的網(wǎng)絡(luò)：magic-yolo 和 magic-ssd，比原來(lái)的網(wǎng)絡(luò)提速 199倍。

magicai 從設(shè)計(jì)之初就與眾不同，目前人工智能的產(chǎn)業(yè)界和學(xué)術(shù)界依然沿用深度學(xué)習(xí)技術(shù)在其非常早年間定義下來(lái)的訓(xùn)練方式，嚴(yán)重依賴基于imagenet classification 的訓(xùn)練和調(diào)優(yōu)，然后再使用 imagenet 的模型作為預(yù)訓(xùn)練模型，通過(guò) “知識(shí)遷移” 來(lái)訓(xùn)練并獲取其他任務(wù)的能力（比如物體識(shí)別)。

這種傳統(tǒng)模式在過(guò)去并沒(méi)有什么問(wèn)題，但是 magicai 的做法有所不同，我們認(rèn)為 對(duì) imagenet classification 的調(diào)優(yōu)并不是最優(yōu)解，有時(shí)優(yōu)秀的 classification 結(jié)果反而會(huì)對(duì)其他任務(wù)的精度帶來(lái)負(fù)面影響。 magicai 選擇重新設(shè)計(jì)新的訓(xùn)練方式來(lái)解決這個(gè)問(wèn)題，這進(jìn)一步提升了 magicai 的準(zhǔn)確率和計(jì)算效率。