5月3日，智能芯片公司寒武紀(jì)科技在上海舉辦了2018產(chǎn)品發(fā)布會(huì)。會(huì)上，寒武紀(jì)正式發(fā)布了多個(gè)一代終端IP產(chǎn)品——采用7nm工藝的終端芯片Cambricon 1M、云端智能芯片MLU100及搭載了MLU100的云端智能處理計(jì)算卡。

　　在人工智能技術(shù)的發(fā)展過(guò)程中，神經(jīng)網(wǎng)絡(luò)正不斷邁向更深、更復(fù)雜的方向，而硬件則正朝著機(jī)器學(xué)習(xí)任務(wù)處理的道路前進(jìn)。目前，國(guó)內(nèi)已出現(xiàn)十余家人工智能芯片公司，而寒武紀(jì)是其中的。作為*一家AI芯片獨(dú)角獸，寒武紀(jì)于2016年誕生于*計(jì)算技術(shù)研究所，并推出了商用化的深度學(xué)習(xí)處理器NPU(神經(jīng)網(wǎng)絡(luò)處理器)。

　　其實(shí)，寒武紀(jì)科技的產(chǎn)品早已進(jìn)入普通用戶的手中。去年10月，華為發(fā)布了搭載“人工智能處理器”麒麟970的手機(jī)Mate 10系列(以及其后發(fā)布的華為P20、榮耀V10系列等)，其芯片架構(gòu)中就包含了寒武紀(jì)的Cambricon-1A神經(jīng)網(wǎng)絡(luò)處理器。1A也由此成為了*成功商用的深度學(xué)習(xí)處理器IP產(chǎn)品。

　　寒武紀(jì)的智能處理器主要針對(duì)于人工智能領(lǐng)域計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別等方面的任務(wù)，面向智能手機(jī)、安防監(jiān)控、可穿戴設(shè)備、無(wú)人機(jī)和智能駕駛等各類應(yīng)用。據(jù)稱，其專為神經(jīng)網(wǎng)絡(luò)任務(wù)優(yōu)化的架構(gòu)可以使其達(dá)到傳統(tǒng)四核CPU25倍以上的性能。

　　與此前僅面向終端設(shè)備的芯片IP不同，本次發(fā)布會(huì)上，寒武紀(jì)推出的芯片不僅性能更強(qiáng)大，而且還出現(xiàn)了面向云端服務(wù)器等專業(yè)應(yīng)用場(chǎng)景的產(chǎn)品。

　　第三代終端芯片：寒武紀(jì)1M

　　首先是終端處理器部分。今天發(fā)布的寒武紀(jì)1M是這家公司的第三代機(jī)器學(xué)習(xí)芯片，其性能超越此前廣泛使用的寒武紀(jì)1A十倍。去年11月6日，寒武紀(jì)在北京舉行了公司成立以來(lái)的首場(chǎng)發(fā)布會(huì)，陳天石在會(huì)上披露了1M處理器的發(fā)展計(jì)劃。

　　在本次發(fā)布會(huì)上，寒武紀(jì)1M處理器的具體參數(shù)終于展示在人們的眼前。1M使用TSMC 7nm工藝生產(chǎn)，其8位運(yùn)算效能比達(dá)5Tops/watt(每瓦5萬(wàn)億次運(yùn)算)。寒武紀(jì)提供了三種尺寸的處理器內(nèi)核(2Tops/4Tops/8Tops)以滿足不同場(chǎng)景下不同量級(jí)智能處理的需求，寒武紀(jì)稱，用戶還可以通過(guò)多核互聯(lián)進(jìn)一步提高處理效能。

　　寒武紀(jì)1M處理器延續(xù)了前兩代IP產(chǎn)品(1H/1A)的完備性，可支持CNN、RNN、SOM等多種深度學(xué)習(xí)模型，此次又進(jìn)一步支持了SVM、k-NN、k-Means、決策樹(shù)等經(jīng)典機(jī)器學(xué)習(xí)算法的加速。這款芯片支持幫助終端設(shè)備進(jìn)行本地訓(xùn)練，可為視覺(jué)、語(yǔ)音、自然語(yǔ)言處理等任務(wù)提供計(jì)算平臺(tái)。“這意味著使用1M的設(shè)備可以根據(jù)用戶行為對(duì)應(yīng)用進(jìn)行個(gè)性化定制，”陳天石表示。“本地訓(xùn)練同時(shí)也解決了用戶數(shù)據(jù)隱私的問(wèn)題。它是*款支持本地機(jī)器學(xué)習(xí)訓(xùn)練的智能處理器產(chǎn)品。”據(jù)悉，該產(chǎn)品可應(yīng)用于智能手機(jī)、智能音箱、攝像頭、自動(dòng)駕駛等不同領(lǐng)域。

　　云端智能芯片：MLU 100

　　在去年11月份的發(fā)布會(huì)上，陳天石展示了服務(wù)器級(jí)AI處理器MLU系列的發(fā)展計(jì)劃，寒武紀(jì)希望將自己的產(chǎn)品從神經(jīng)網(wǎng)絡(luò)加速拓展到機(jī)器學(xué)習(xí)，以及更多任務(wù)中。本次發(fā)布的又一大重點(diǎn)就是亮相的Cambricon MLU 100云端AI芯片，以及以此為基礎(chǔ)的云端智能處理計(jì)算卡。“在三年前，我們就開(kāi)始了兩顆測(cè)試芯片的研發(fā)了。我們時(shí)刻準(zhǔn)備著將自己的產(chǎn)品放入云端。”陳天石表示。今天推出的產(chǎn)品正是寒武紀(jì)穩(wěn)步推進(jìn)的成果。

　　MLU100采用寒武紀(jì)的MLUv01架構(gòu)和TSMC 16nm工藝，可工作在平衡模式(主頻1Ghz)和高性能模式(1.3GHz)主頻下，等效理論峰值速度則分別可以達(dá)到128萬(wàn)億次定點(diǎn)運(yùn)算/166.4萬(wàn)億次定點(diǎn)運(yùn)算，而其功耗為80w/110w。與寒武紀(jì)系列的終端處理器相同，MLU100云端芯片具有很高的通用性，可支持各類深度學(xué)習(xí)和常用機(jī)器學(xué)習(xí)算法。可滿足計(jì)算機(jī)視覺(jué)、語(yǔ)音、自然語(yǔ)言處理和數(shù)據(jù)挖掘等多種云處理任務(wù)。搭載這款芯片的板卡使用了PCIe接口。

　　在發(fā)布會(huì)上，寒武紀(jì)的合作伙伴們展示了基于寒武紀(jì)芯片的部分應(yīng)用方案。其中聯(lián)想推出了基于Cambricon MLU100的服務(wù)器ThinkSystem SR650。該產(chǎn)品為2U2路機(jī)架式規(guī)格，支持兩個(gè)MLU100智能處理器計(jì)算卡。這款服務(wù)器打破了37項(xiàng)服務(wù)器基準(zhǔn)測(cè)試的世界紀(jì)錄。

　　中科曙光也在發(fā)布會(huì)上推出了基于Cambricon MLU100的服務(wù)器產(chǎn)品系列“PHANERON”。這款服務(wù)器可支持2-10塊寒武紀(jì)MLU處理卡，面向多種智能應(yīng)用任務(wù)。其中PHANERON-10集成了10塊寒武紀(jì)人工智能處理單元，可以為人工智能訓(xùn)練應(yīng)用提供832T半精度浮點(diǎn)運(yùn)算能力，在推理時(shí)提供1.66P整數(shù)運(yùn)算能力。中科曙光表示，新一代服務(wù)器可以在典型場(chǎng)景下將能效提升30倍以上。

　　科大訊飛也在發(fā)布會(huì)上披露了與寒武紀(jì)的深度合作研發(fā)項(xiàng)目。

　　正如MLU的系列命名所示，寒武紀(jì)希望把旗下芯片的應(yīng)用范圍由神經(jīng)網(wǎng)絡(luò)(Neural network)擴(kuò)展到機(jī)器學(xué)習(xí)(Machine Learning)的加速任務(wù)上。由于IP*的方式利潤(rùn)空間有限，進(jìn)軍云端市場(chǎng)或許是寒武紀(jì)作為新一代芯片公司發(fā)展的必然道路。

　　寒武紀(jì)表示，旗下的終端和云端產(chǎn)品均原生支持寒武紀(jì)NeuWare軟件工具鏈，可以方便用戶進(jìn)行智能應(yīng)用的開(kāi)發(fā)、遷移和調(diào)優(yōu)。陳天石表示，寒武紀(jì)科技創(chuàng)立的初衷就是要讓*都能用上智能處理器。寒武紀(jì)本次提出了“端云協(xié)作”的理念，這次發(fā)布的MLU100芯片可以和此前寒武紀(jì)1A/1H/1M系列終端處理器進(jìn)行適配，協(xié)同完成復(fù)雜的智能處理任務(wù)。

　　至此，寒武紀(jì)已經(jīng)形成了覆蓋智能終端設(shè)備、自動(dòng)駕駛以及云端服務(wù)器的AI智能芯片IP產(chǎn)品線。“寒武紀(jì)未來(lái)計(jì)劃發(fā)布自己的編程語(yǔ)言，”陳天石說(shuō)道，“我們希望自己的合作伙伴能夠基于這套軟件系統(tǒng)發(fā)布自己的產(chǎn)品。”

　　機(jī)器之心專訪了寒武紀(jì)科技的創(chuàng)始人和CEO陳天石，他就一些我們感興趣的話題進(jìn)行了解答。

　　機(jī)器之心：相對(duì)市場(chǎng)上已有的同類芯片，新的產(chǎn)品(MLU100)在設(shè)計(jì)上具備哪些優(yōu)勢(shì)？

　　陳天石：MLU100是寒武紀(jì)公司*積累的成果，基于Cambricon指令集，在機(jī)器學(xué)習(xí)領(lǐng)域適用面廣。而且得益于寒武紀(jì)在微結(jié)構(gòu)方面的創(chuàng)新，達(dá)到了zui高每秒166.4萬(wàn)億次定點(diǎn)運(yùn)算的峰值。

　　機(jī)器之心：針對(duì)新一代芯片，寒武紀(jì)是否會(huì)推出相關(guān)軟件API，和完整的解決方案？

　　陳天石：寒武紀(jì)公司從2016年起，逐步推出了寒武紀(jì)NeuWare軟件工具鏈，實(shí)現(xiàn)對(duì)tensorflow、caffe和mxnet的API兼容，并同時(shí)提供了寒武紀(jì)專門的高性庫(kù)，可以方便地進(jìn)行智能應(yīng)用的開(kāi)發(fā)，遷移和調(diào)優(yōu)。目前，由于寒武紀(jì)在終端的廣泛應(yīng)用，已經(jīng)有不少客戶在寒武紀(jì)NeuWare之上構(gòu)建了他們的應(yīng)用。

　　機(jī)器之心：有關(guān)產(chǎn)品定位的問(wèn)題，您認(rèn)為新的芯片會(huì)對(duì)目前已有的市場(chǎng)產(chǎn)生沖擊，還是會(huì)開(kāi)拓出新的市場(chǎng)？直接對(duì)標(biāo)的同類產(chǎn)品是什么？

　　陳天石：寒武紀(jì)相信智能是一個(gè)快速增長(zhǎng)的市場(chǎng)，我們?cè)敢夂?的同行實(shí)現(xiàn)合作共贏。

　　機(jī)器之心：寒武紀(jì)在2018年選擇了“由端入云”的發(fā)展方向，是出于什么樣的思考？以及如何看待云端計(jì)算的發(fā)展趨勢(shì)？

　　陳天石：端側(cè)的智能處理是非常重要的，因?yàn)槎丝梢詚ui快速的響應(yīng)用戶的需求，能以非常低的功耗、非常低的成本、非常小的延遲，幫助用戶理解圖像、視頻、語(yǔ)音和文本。但是，云側(cè)的智能處理可以把很多端的信息匯聚在一起。比如，在一個(gè)城市中有大量的攝像頭，如果想要知道一個(gè)特定的物體在多個(gè)攝像頭間的運(yùn)動(dòng)軌跡，就需要在云側(cè)進(jìn)行智能處理。

　　另外，終端的數(shù)據(jù)量有限，只能根據(jù)單個(gè)用戶的數(shù)據(jù)對(duì)機(jī)器學(xué)習(xí)模型進(jìn)行微調(diào)。而云可以看到大量用戶的數(shù)據(jù)。因此，云端的智能處理在數(shù)據(jù)方面有其不可替代的巨大優(yōu)勢(shì)，可以利用海量數(shù)據(jù)，訓(xùn)練出非常強(qiáng)大的模型。

　　機(jī)器之心：寒武紀(jì)的產(chǎn)品線更新戰(zhàn)略是什么樣的，多久推出一代新的芯片？

　　陳天石：寒武紀(jì)公司有著一支、執(zhí)行力強(qiáng)的研發(fā)隊(duì)伍，以及一個(gè)穩(wěn)定的技術(shù)路線圖，會(huì)以較快的速度不斷推出新的產(chǎn)品滿足市場(chǎng)的需求。寒武紀(jì)2017年11月發(fā)布終端IP產(chǎn)品1A和1H的時(shí)候，就預(yù)告了今年5月份的新IP產(chǎn)品1M，和云端MLU100芯片。

　　機(jī)器之心：我們能否期待下一代消費(fèi)級(jí)NPU的消息？

　　陳天石：我們通常不稱自己是NPU，因?yàn)镹eural Processing Unit把應(yīng)用面限定在神經(jīng)網(wǎng)絡(luò)上。事實(shí)上，寒武紀(jì)做的是MLU(Machine Learning Unit)，各種機(jī)器學(xué)習(xí)算法(包括神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)，也包括多種傳統(tǒng)機(jī)器學(xué)習(xí)算法)都能很好地支持。在終端，寒武紀(jì)這次發(fā)布了IP產(chǎn)品1M，的具備本地的訓(xùn)練能力，這給終端用戶個(gè)性化、定制化、適配化的智能服務(wù)提供了應(yīng)借鑒支撐。1M的PPA也有很大的進(jìn)步，可以達(dá)到5Tops/W。

　　機(jī)器之心：寒武紀(jì)的新一代芯片(MLU 100)在推出之后將與哪些公司展開(kāi)合作？

　　陳天石：這次發(fā)布會(huì)上，曙光和聯(lián)想都推出了基于寒武紀(jì)的云服務(wù)器新產(chǎn)品。我們也在深入同各大云計(jì)算企業(yè)深入合作。