pq labs magicai讓cpu玩得轉(zhuǎn)人工智能

pq labs magicai讓cpu玩得轉(zhuǎn)人工智能

2019年03月15日 15:10作者：黃頁(yè)編輯：

分享

pq labs (上海品奇數(shù)碼科技有限公司)在 ces 2019 展會(huì)發(fā)布的 magicai 技術(shù)擁有非常快的運(yùn)行速度：可以在 intel i7 處理器上，以 718 fps 的幀率運(yùn)行 物體識(shí)別 程序而無(wú)需降低識(shí)別精度，而在同樣 cpu 上直接運(yùn)行 tiny yolo 則僅僅有 3.6 fps 的幀率。magiai(tiny magic yolo)的計(jì)算速度達(dá)到了 intel mkl 的199倍，甚至達(dá)到了經(jīng)過(guò) gpu (titan x / 1080ti) 加速的 tiny yolo 3.5倍的運(yùn)行速度。

為人工智能而生的新物種

magicai 技術(shù)的設(shè)計(jì)和開發(fā)是從深度學(xué)習(xí)最底層的數(shù)學(xué)基礎(chǔ)開始的，所有數(shù)學(xué)運(yùn)算都被重新優(yōu)化設(shè)計(jì)，重新封裝在一個(gè)叫做 “magiccompute” 的運(yùn)算庫(kù)內(nèi)，以替代 nvidia cuda，cudnn 及 intel mkl，并實(shí)現(xiàn)運(yùn)行速度的提升。例如， “卷積運(yùn)算” (所有深度學(xué)習(xí)模型的基礎(chǔ)運(yùn)算)由 “magicconvolution” 來(lái)執(zhí)行，就可以獲得性能的飛速提升。

magicai 的運(yùn)行速度提升同樣來(lái)自于其獨(dú)特的骨干網(wǎng)絡(luò)優(yōu)化，運(yùn)行速度要比 mobilenet v2、shufflenet v2 等輕量化模型更快，并且準(zhǔn)確度更高。

magicai 從設(shè)計(jì)之初就與眾不同，目前人工智能的產(chǎn)業(yè)界和學(xué)術(shù)界依然沿用深度學(xué)習(xí)技術(shù)在其非常早年間定義下來(lái)的訓(xùn)練方式，嚴(yán)重依賴基于imagenet classification 的訓(xùn)練和調(diào)優(yōu)，然后再使用 imagenet 的模型作為預(yù)訓(xùn)練模型，通過(guò) “知識(shí)遷移” 來(lái)訓(xùn)練并獲取其他任務(wù)的能力(比如物體識(shí)別)。

這種傳統(tǒng)模式在過(guò)去并沒(méi)有什么問(wèn)題，但是 magicai 的做法有所不同，我們認(rèn)為 對(duì) imagenet classification 的調(diào)優(yōu)并不是最優(yōu)解，有時(shí)優(yōu)秀的 classification 結(jié)果反而會(huì)對(duì)其他任務(wù)的精度帶來(lái)負(fù)面影響。 magicai 選擇重新設(shè)計(jì)新的訓(xùn)練方式來(lái)解決這個(gè)問(wèn)題，這進(jìn)一步提升了 magicai 的準(zhǔn)確率和計(jì)算效率。

magicai支持現(xiàn)有的模型和框架

magicai 技術(shù)新穎且速度飛快，但是這并不意味選擇 magicnet 就意味著放棄在現(xiàn)有的技術(shù)模型(tensorflow, caffe, pytorch等)上花費(fèi)的時(shí)間和精力。magicnet 可以向后兼容，支持已有的模型，無(wú)需重新訓(xùn)練或編程，就可以讓現(xiàn)有模型運(yùn)行的更快。

轉(zhuǎn)載請(qǐng)注明出處。