AI芯片領域近年來一片火熱，不論是資本市場，還是大眾創(chuàng)業(yè)，無不對其表現(xiàn)出極大的熱情。云知聲對AI芯片又有著怎樣的需求與思考?接下來，本文即將從AI與IoT融合的角度(AIoT)，為您詳實解析。

　　一、AIoT領域中人機交互的市場機會

　　自2017年開始，“AIoT”一詞便開始頻頻刷屏，成為物聯(lián)網(wǎng)的行業(yè)熱詞?！癆IoT”即“AI+IoT”，指的是人工智能技術與物聯(lián)網(wǎng)在實際應用中的落地融合。當前，已經(jīng)有越來越多的人將AI與IoT結合到一起來看，AIoT作為各大傳統(tǒng)行業(yè)智能化升級的最佳通道，已經(jīng)成為物聯(lián)網(wǎng)發(fā)展的必然趨勢。

　　在基于IoT技術的市場里，與人發(fā)生聯(lián)系的場景(如智能家居、自動駕駛、智慧醫(yī)療、智慧辦公)正在變得越來越多。而只要是與人發(fā)生聯(lián)系的地方，勢必都會涉及人機交互的需求。人機交互是指人與計算機之間使用某種對話語言，以一定的交互方式，為完成確定任務的人與計算換機之間的信息交互過程。人機交互的范圍很廣，小到電燈開關，大到飛機上的儀表板或是發(fā)電廠的控制室等等。而隨著智能終端設備的爆發(fā)，用戶對于人與機器間的交互方式也提出了全新要求，使得AIoT人機交互市場被逐漸激發(fā)起來。

　　圖：AIoT發(fā)展路徑

　　以智能家居市場為例，數(shù)據(jù)顯示，2018年中國智能家居規(guī)模將達到1800億元，到2020年智能家居市場規(guī)模將達到3576億元。分析師預測，2021年全球智能家居市場規(guī)模將達5000多億元。飛速爆發(fā)中的AIoT市場，所蘊藏的人機交互需求及前景無疑是令人期待的。

　　人類生活的數(shù)字化進程已持續(xù)約三十年，這些年我們經(jīng)歷了從模擬時代到PC互聯(lián)時代再移動互聯(lián)時代的演進，而目前我們正處在向物聯(lián)網(wǎng)時代的演進過程中。從交互方式上來講，我們可以看到機器是越來越“遷就”人的：從PC時代的鍵盤和鼠標到移動時代的觸屏、NFC以及各種MEMS傳感器，再到物聯(lián)網(wǎng)時代正在蓬勃發(fā)展的語音/圖像等交互方式，使用門檻正在變得越來越低，這導致了越來越多的用戶的卷入。同時我們需要注意到另一個深刻的變化，即由于交互方式的演進(至少是重要原因之一)，大量的新維度的數(shù)據(jù)也在不斷地被創(chuàng)造出來和數(shù)字化，比如PC時代的工作資料和娛樂節(jié)目，智能手機時代的用戶使用習慣、位置、信用和貨幣，再到物聯(lián)網(wǎng)時代的各種可能的新數(shù)據(jù)。

　　在物聯(lián)網(wǎng)時代，交互方式正在往本體交互的方向發(fā)展。所謂“本體交互”，指的是從人的本體出發(fā)的，人與人之間交互的基本方式，如語音、視覺、動作、觸覺，甚至味覺等。例如，通過聲音控制家電，或者空調(diào)通過紅外來決定是否應該降溫，通過語音和紅外結合來進行溫度的控制(偵測到房間里沒人的時候，即便電視節(jié)目里提到了“降溫”，空調(diào)也不做反應)。

　　新的數(shù)據(jù)是AI的新的養(yǎng)料，而大量的新維度的數(shù)據(jù)正在為AIoT創(chuàng)造出無限可能。

　　從AIoT發(fā)展路徑來看，當前行業(yè)人士普遍認為，其將經(jīng)歷單機智能、互聯(lián)智能到主動智能的三大階段。

　　單機智能指的是智能設備等待用戶發(fā)起交互需求，而這個過程中設備與設備之間是不發(fā)生相互聯(lián)系的。這種情境下，單機系統(tǒng)需要精確感知、識別、理解用戶的各類指令，如語音、手勢等，并正確決策、執(zhí)行和反饋。AIoT行業(yè)正處于這一階段。以家電行業(yè)為例，過去的家電就是一個功能機時代，就像以前的手機按鍵式的，幫你把溫度降下來，幫你實現(xiàn)食物的冷藏;現(xiàn)在的家電實現(xiàn)了單機智能，就是語音或手機A P P的遙控去實現(xiàn)調(diào)溫度、打開風扇等。

　　無法互聯(lián)互通的智能單品，只是一個個數(shù)據(jù)和服務的孤島，遠遠滿足不了人們使用需求。要取得智能化場景體驗的不斷升級、優(yōu)化，首先需要打破的是單品智能的孤島效應。而互聯(lián)智能場景，本質(zhì)上指的是一個相互互聯(lián)互通的產(chǎn)品矩陣，因而，“一個大腦(云或者中控)，多個終端(感知器)”的模式成為必然。例如，當用戶在臥室里對空調(diào)說關閉客廳的窗簾，而空調(diào)和客廳的智能音箱中控是連接的，他們之間可以互相商量和決策，進而做出由音箱關閉客廳窗簾的動作;又或者當用戶晚上在臥室對著空調(diào)說出“睡眠模式”時，不僅僅空調(diào)自動調(diào)節(jié)到適宜睡眠的溫度，同時，客廳的電視、音箱，以及窗簾、燈設備都自動進入關閉狀態(tài)。這就是一個典型的通過云端大腦，配合多個感知器的互聯(lián)智能的場景落地。

　　主動智能指的是智能系統(tǒng)根據(jù)用戶行為偏好、用戶畫像、環(huán)境等各類信息，隨時待命，具有自學習、自適應、自提高能力，可主動提供適用于用戶的服務，而無需等待用戶提出需求，正如一個私人秘書。試想這樣的場景，清晨伴隨著光線的變化，窗簾自動緩緩開啟，音箱傳來舒緩的起床音樂，新風系統(tǒng)和空調(diào)開始工作。你開始洗漱，洗涑臺前的私人助手自動為你播報今日天氣、穿衣建議等。洗漱完畢，早餐和咖啡已經(jīng)做好。當你走出家門，家里的電器自動斷電，等待你回家時再度開啟。

　　二、AIoT的人機交互對AI芯片需求

　　邊緣計算指在靠近物或數(shù)據(jù)源頭的網(wǎng)絡邊緣側，融合網(wǎng)絡、計算、存儲、應用核心能力的開放平臺，就近提供邊緣智能服務，滿足行業(yè)數(shù)字化在敏捷連接、實時業(yè)務、數(shù)據(jù)優(yōu)化、應用智能、安全與隱私保護等方面的關鍵需求。在行業(yè)內(nèi)有個十分形象的比方，邊緣計算猶如人類身體的神經(jīng)末梢，可以對簡單的刺激進行自行處理，并將特征信息反饋給云端大腦。伴隨AIoT的落地實現(xiàn)，在萬物智聯(lián)的場景中，設備與設備間將互聯(lián)互通，形成數(shù)據(jù)交互、共享的嶄新生態(tài)。在這個過程中，終端不僅需要有更加高效的算力，在大多數(shù)場景中，還必須具有本地自主決斷及響應能力。拿智能音箱舉例，其不僅需要支持本地喚醒的能力，還應該具備遠講降噪的能力，而由于實時性以及數(shù)據(jù)有效性的考慮，這方面的計算必須發(fā)生在設備端而不是云端。

　　智能家居行業(yè)作為AIoT人機交互最重要的落地場景，正吸引越來越多企業(yè)進入。在這其中，既有如Apple、Google、Amazon等這樣的科技巨頭，也有像海爾、三星這類的傳統(tǒng)家電廠商，當然也不乏小米、京東這樣的互聯(lián)網(wǎng)新貴?；诨ヂ?lián)智能的構想，未來的AIoT時代，每個設備都需要具備一定的感知(如預處理)、推斷以及決策功能。因此，每個設備端都需要具備一定不依賴于云端的獨立計算能力，即上面提到的邊緣計算。

　　在智能家居的場景下，通過自然語音的方式與終端設備進行交互，在當前已成為行業(yè)主流。由于家庭場景的特殊性，家用終端設備需精準區(qū)分、提取正確的用戶命令(而不是家人在談話時無意說到的無效關鍵詞)，以及聲源、聲紋等信息，因此，智能家居領域的語音交互對于邊緣計算也提出了更高要求，具體表現(xiàn)在以下幾方面：

　　1)遠講降噪、喚醒

　　家居環(huán)境下聲場復雜，比如電視聲音、多人對話、小孩嬉鬧、空間混響(廚房做飯、洗衣機等設備工作噪音)，這些容易干擾用戶與設備間正常交互的聲音，很大概率會在同一時間存在，這就需要對各種干擾進行處理、抑制，使得來自真正用戶的聲音更加突出。在這個處理的過程中，設備需要更多的信息量來進行輔助判斷。家居場景語音交互的一個必備功能是使用麥克風陣列進行多通道的同步聲音錄入，通過對聲學空間場景進行分析，使得聲音的空間定位更加準確，大幅提升語音質(zhì)量。另一個重要功能是通過聲紋信息輔助區(qū)分真正用戶，使他的聲音從多人的竄擾中更加清晰地區(qū)分出來。這些都需要在設備端實現(xiàn)，且需要較大的算力支持。

　　2)本地識別

　　家居領域人機交互的本地識別離不開邊緣計算，具體體現(xiàn)兩個方面：

　　高頻詞。從實際統(tǒng)計來看，用戶在特定場景下的常用關鍵詞指令數(shù)量有限。例如車機產(chǎn)品，用戶最常使用的可能是“上一首/下一首”，空調(diào)產(chǎn)品有可能最常用的命令是“開啟/關閉”等，這些用戶經(jīng)常用到的詞就叫做高頻詞。對于高頻詞的處理，完全可以放在本地處理而不依賴于云端的延時，從而帶給用戶最佳的體驗。

　　聯(lián)網(wǎng)率。在智能家居產(chǎn)品尤其是家電產(chǎn)品落地的過程中，聯(lián)網(wǎng)率是一個問題。如何在不聯(lián)網(wǎng)的情況下讓用戶感知到語音AI的強大，進行用戶培養(yǎng)，也是邊緣計算在當前的一個重要作用。

　　3)本地/云端效率的平衡

　　家居領域的自然語言交互過程中，當所有的計算被放到云端時，聲學計算的部分將對云端計算造成較大壓力，一方面造成云平臺成本的大幅增加;另一方面帶來計算延遲，損害用戶體驗。自然語音交互分成聲學和自然語言理解(NLP)兩個部分，從另一個維度上來講，可看成是“業(yè)務無關”(語音轉(zhuǎn)文字/聲學計算)和“業(yè)務有關”(NLP)的部分。業(yè)務有關的部分毫無疑問需要在云端解決，例如用戶問天氣、聽音樂等需求，那么設備對用戶語句的理解，以及天氣信息的獲取必須通過聯(lián)網(wǎng)來完成。但是，對于用戶語音到文字的轉(zhuǎn)換，例如下達指令“打開空調(diào)、增加溫度等”，其中的部分甚至大部分計算是有可能在本地完成的。這種情況下，從本地上傳到云端的數(shù)據(jù)將不再是壓縮后的語音本身，而是更為精簡的中間結果甚至是文本本身，數(shù)據(jù)更為精簡，云端計算更為簡單，則響應也更為迅速。

　　4)多模態(tài)的需求

　　所謂多模態(tài)交互即多種本體交互手段結合后的交互，例如將多種感官融合，比如文字、語音、視覺、動作、環(huán)境等。人是一個典型的多模態(tài)交互的例子，在人與人交流的過程中，表情、手勢、擁抱、觸摸，甚至是氣味，無不在信息交換的過程中起著不可替代的作用。顯然，智能家居的人機交互勢必不止語音一個模態(tài)，而是需要多模態(tài)交互并行。舉個例子，智能音箱如果看到人不在家，那就完全不需要對電視里誤放出的喚醒詞進行響應，甚至可以把自己調(diào)到睡眠狀態(tài);一個機器人如果感覺到主人在注視他，那么可能會主動向主人打招呼并詢問是否需要提供幫助。多模態(tài)處理無疑需要引入對多類傳感器數(shù)據(jù)的共同分析和計算，這些數(shù)據(jù)既包括一維的語音數(shù)據(jù)，也會包括攝像頭圖像以及熱感應圖像等二維數(shù)據(jù)。這些數(shù)據(jù)的處理無不需要本地AI的能力，也就對邊緣計算提出了強力的需求。

　　三、邊緣計算帶來的AI芯片需求

　　AI算法對設備端芯片的并行計算能力和存儲器帶寬提出了更高的要求，盡管基于GPU的傳統(tǒng)芯片能夠在終端實現(xiàn)推理算法，但其功耗大、性價比低的弊端卻不容忽視。在AIoT的大背景下，IoT設備被賦予了AI能力，一方面在保證低功耗、低成本的同時完成AI運算(邊緣運算);另一方面，IoT設備與手機不同，形態(tài)千變?nèi)f化，需求碎片化嚴重，對AI算力的需求也不盡相同，因此很難給出跨設備形態(tài)的通用芯片架構。因此，只有從IoT的場景出發(fā)，設計定制化的芯片架構，才能在大幅提升性能的同時，降低功耗和成本，同時滿足AI算力以及跨設備形態(tài)的需求。相比于傳統(tǒng)芯片，定制化的AI芯片在運算效率及存儲器帶寬上有絕對優(yōu)勢，其優(yōu)勢主要體現(xiàn)在以下幾點：

　　首先，采用并行運算架構及專用矩陣加速器等技術，例如Systolic Array架構或更復雜的并行運算架構實現(xiàn)運算單元的利用率，甚至采用Winograd等特定的矩陣加速器，降低矩陣運算的運算量，從而提高運算效率。

　　其次，從降低外部存儲器帶寬的角度出發(fā)，通過數(shù)據(jù)壓縮或相關功能模塊之間的pipeline技術，降低內(nèi)存帶寬。以NVIDIA公司開源AI引擎NVDLA為例，在convolutions、activations、pooling等模塊之間設計了專用的數(shù)據(jù)通路，模塊之間的數(shù)據(jù)交互不在經(jīng)過系統(tǒng)內(nèi)存，而是由專用的數(shù)據(jù)通道完成。

　　圖：NVDLA核心架構

　　隨著芯片運算效率的提升及外部存儲器數(shù)據(jù)帶寬的降低，芯片運算所需的時鐘周期和內(nèi)存訪問次數(shù)將會大幅減少。因此，相較通用芯片而言，AI芯片可以在更低的主頻、更小的芯片面積，完成機器學習中同等任務量的計算。采用更低的主頻，不單降低了芯片的動態(tài)功耗，還可以降低芯片工作電壓，從而進一步降低芯片動態(tài)功耗。另外，低主頻使得在芯片加工工藝的選上有更多的選擇，進一步影響芯片的靜態(tài)功耗。

　　由于芯片面積、功耗直接影響芯片封裝的選擇，因此AI芯片在芯片封裝上也要比傳統(tǒng)芯片更有優(yōu)勢。由此來看，AI芯片的性價比將遠遠大于傳統(tǒng)芯片。

　　四、AI芯片落地面臨的挑戰(zhàn)

　　AI芯片在保證高性能、高能效比的同時，兼顧靈活性和通用性。AI算法有應用領域廣、算法種類多樣化以及算法演進較快的特點，因此對AI芯片架構設計提出較高的要求。只有性能與通用性兼顧的AI芯片才會有廣闊的市場和較長的生命周期。只有在芯片架構與軟件算法之間形成較高的耦合度時，芯片的性價比才能夠達到較高的值，因此離開對算法的深刻理解是很難設計出高效的AI芯片的。而直接對AI算法的硬件化將極大地降低芯片靈活性，因此AI芯片的硬件加速往往體現(xiàn)在比算法更底層的數(shù)學運算上。由于AI算法是建立在一系列的數(shù)學運算之上的，因此設計一款高性價比和高靈活性的芯片需要從數(shù)學運算及運算之間的數(shù)據(jù)依賴著手。在大量數(shù)據(jù)統(tǒng)計的基礎上，根據(jù)數(shù)據(jù)運算的復雜度、出現(xiàn)的頻度、數(shù)據(jù)依賴關系等信息，提煉基礎數(shù)學運算指令及數(shù)據(jù)搬運指令，并根據(jù)這些指令完成芯片架構的定義和實現(xiàn)。因此，AI芯片架構設計及實現(xiàn)是AI芯片設計的中間一個小的環(huán)節(jié)，而AI指令集設計才是AI芯片成功的更為關鍵的因素。

　　做AI芯片不是搞軍備競賽，任何產(chǎn)品在推向市場的過程中都有其產(chǎn)品定位，AI芯片也不例外。特定的AI芯片是面向特定場景的，而場景則由芯片所面向的產(chǎn)品、市場所共同影響決定，不同場景對于AI芯片在價格、功耗，以及所支持的功能方面有著截然不同的需求。比如，大型服務機器人和智能開關，對于AI芯片的價格要求可能會有比較大的反差，畢竟二者的售價相差懸殊，對于同一售價的AI芯片，出于產(chǎn)品成本的考慮，所表現(xiàn)出來的接受度可能截然相反。因此AI芯片不僅要做得來，還得賣得出。

　　在AI軟件生態(tài)方面，AI開發(fā)框架(Framework)相對碎片化，比如TensorFlow(Google)，CNTK(Microsoft)及Torch7(Facebook)等，整個行業(yè)尚未形成統(tǒng)一的標準。在標準化方面的探索主要包括Microsoft和Facebook聯(lián)合推出的ONNX，Khronos組織推出的NNEF等神經(jīng)網(wǎng)絡交換層標準。不可否認，神經(jīng)網(wǎng)絡交換層標準是解決當前碎片化AI框架的捷徑，但該標準處于起步階段，標準的成熟還需要較長的路要走。因此AI芯片廠商解決各種框架之間的兼容性問題，對AI芯片的通用性帶來極大的挑戰(zhàn)。在AI產(chǎn)品生態(tài)方面，AI芯片的規(guī)模性的落地領域尚在探索之中。同時在落地過程中，AI芯片不是孤立的，還需要軟件應用、解決方案以及服務商的支持。AI芯片歸根結底是一個產(chǎn)品，既然是產(chǎn)品，其落地時的交付物可能是芯片本身，但更可能是芯片+應用+服務。如果只有芯片，但是沒有基于芯片的算法和應用，那么無法稱之為一個完整的產(chǎn)品。舉例來說，對于智能音箱而言，作為一個解決方案的提供商，AI芯片只是其產(chǎn)品中的一小部分，而其他部分例如基于AI芯片的應用、云端的智能語音交互服務、內(nèi)容服務以及服務支持等，這才是落地中更為重要的一環(huán)。在AI芯片落地的過程中，客戶需要的一般是一個完整的方案，如果僅僅提供AI芯片的話，勢必需要在應用、云服務等各方面尋找相應的合作伙伴，才有可能對客戶提供一個完整的解決方案。

　　五、云知聲在AI芯片落地方面的探索

　　就云知聲而言，在芯片產(chǎn)品形態(tài)方面，實際上公司已經(jīng)過很長時間的探索。從市場著手，云知聲在家居、智能音箱、兒童機器人等市場方面已經(jīng)基于IVM(通用芯片方案)的產(chǎn)品形態(tài)，驗證了市場、產(chǎn)品、用戶場景的合理性。而伴隨合作客戶在更多產(chǎn)品種類和形態(tài)上對成本、穩(wěn)定性、集成度等方面的呼聲愈高，進而推出自研AI芯片就成為一件水到渠成的事情。

　　基于Unisound的AI指令集和DSP指令集，結合語音應用場景，以麥克風陣列信號處理、語音識別及語音合成為一體的全新的芯片架構。通過運算單元之間的可編程互聯(lián)矩陣保證運算效率的同時，采用多級-多組-多端口的Memory架構保證片內(nèi)數(shù)據(jù)帶寬的提升及降低芯片功耗。在架構靈活性方面，通過Scratch-Pad將主控CPU與AI加速器內(nèi)部RAM相連，提供高效的CPU與AI加速器之間的數(shù)據(jù)通道，以便CPU對AI加速器運算結果進行二次處理。另外，連接各個運算單元的可編程互聯(lián)矩陣架構，提供了擴展運算指令的功能，從而進一步提升硬件架構的靈活性及可擴展性。芯片架構方面的其余探索，包括多級多模式喚醒、從能量檢測到人類聲音檢測到喚醒詞檢測、針對語音設備及使用場景的定制化Power Domain等技術，將芯片功耗降至最低。在業(yè)務體系上，云知聲在2014年即提出了“云端芯”的技術架構體系，通過云端服務、設備端應用以及嵌入式硬件面向IoT領域構建完整的語音AI解決方案。隨著云知聲自主AI芯片的落地，通過提供標準化的人機交互產(chǎn)品對接接口，可為合作客戶提供允許在端和云兩個方面均可進行高度定制的解決方案。

　　總之，AIoT的人機交互是一個巨大的市場，并由此帶來了對AI芯片的巨大需求。但在AI芯片的落地過程中，面臨著研發(fā)、產(chǎn)品定位以及商業(yè)化路徑等多方面的挑戰(zhàn)。在研發(fā)方面，需要針對實際采用的AI算法進行深度迭代優(yōu)化，以滿足產(chǎn)品需求并保持架構的靈活性;在產(chǎn)品定位方面，鑒于IoT設備碎片化的現(xiàn)實，必須先考慮應用場景和適用范圍，由此再倒推AI芯片的功能和性能要求;在商業(yè)化路徑方面，最終客戶需要的往往是整體解決方案而非芯片本身，因此如何構建一個完整的AI解決方案，是每個AI芯片玩家必須考慮的事情。