隨著人工智能技術(shù)飛速發(fā)展，云端AI正在往端側(cè)AI擴展演進，AI處理將分布在云端和終端中進行，云端AI更多負責大模型訓練和復雜運算，而端側(cè)AI將進行本地部署進行AI推理。這種云端和終端結(jié)合的混合AI模式將會是AI未來的需求，而對于端側(cè)AI技術(shù)的要求，也將越來越高。
對目前市面上涌現(xiàn)的智能設(shè)備創(chuàng)新功能做一個分類，不難看出很多功能點的創(chuàng)新升級都離不開音頻處理與交互技術(shù)。作為連接消費者與智能設(shè)備的重要媒介，音頻智能化創(chuàng)新的發(fā)展也體現(xiàn)了當前“智能泛在化”的趨勢。
而其中，音頻相關(guān)芯片與算法的協(xié)同更新為具備音頻交互的智能終端崛起提供了重要助力，音頻芯片廠商在此契機下紛紛加碼布局端側(cè)AI。
本期《端側(cè)AI領(lǐng)袖之聲：中國端側(cè)AI企業(yè)深度訪談專欄》，物聯(lián)網(wǎng)智庫邀請到炬芯科技市場推廣部總監(jiān)馬大行，就端側(cè)AI產(chǎn)業(yè)發(fā)展以及炬芯科技目前的端側(cè)AI布局進行了深入交流。
音頻賽道制高點，打造完整端側(cè)AI生態(tài)
從今年各類智能終端的功能創(chuàng)新不難看出，很多功能點升級都圍繞音頻處理與交互技術(shù)展開。音頻相關(guān)芯片為智能終端的崛起提供了堅實的硬件基礎(chǔ)，在終端市場需求興起的背景下，音頻芯片廠商紛紛加碼布局，將芯片與端側(cè)AI技術(shù)加速融合。
對于泛IoT領(lǐng)域的智能設(shè)備，需要能夠解決應用痛點的芯片平臺來提供基礎(chǔ)支撐。在這些應用里，高算力高成本但功耗并不低的芯片不是最好的選擇，端側(cè)設(shè)備無法不計成本地堆砌算力，高算力也會帶來更大的功耗，所以必須找到算力成本和功耗之間的平衡。而且可能過去傳統(tǒng)架構(gòu)的芯片也解決不了本地模型部署的算力和功耗的需求，因此在芯片架構(gòu)設(shè)計上也需要求變創(chuàng)新。
這些正好是炬芯科技的優(yōu)勢所在。炬芯科技市場推廣部總監(jiān)馬大行表示，“炬芯科技扎根音頻賽道，但我們的視野是整個IoT領(lǐng)域。炬芯科技最核心的優(yōu)勢在于我們抓住了落地端側(cè)AI應用的痛點，并且打造一個完整的端側(cè)AI生態(tài)系統(tǒng)，因為如果只有產(chǎn)品沒有配套的整個生態(tài)，其實是沒有很好的辦法落地的。”
炬芯科技的目標是為端側(cè)AI應用打造極致能效比的AI算力，在毫瓦級功耗下實現(xiàn)TOPS級別的AI算力，打造以滿足IoT設(shè)備對低功耗、高能效的需求，并創(chuàng)新性地采用了基于模數(shù)混合SRAM存內(nèi)計算技術(shù)（Mixed-mode SRAM based CIM，簡稱MMSCIM）路徑來挑戰(zhàn)這樣的目標。目前炬芯科技最新產(chǎn)品采用三核異構(gòu)架構(gòu)，即CPU+ DSP+ NPU，雖然目前國內(nèi)也有其他廠商在布局此條路線來做，但在商業(yè)化落地上并沒有炬芯科技做得成熟。特別是炬芯科技將NPU和DSP融合設(shè)計形成了炬芯科技“Actions Intelligence NPU（AI-NPU）”架構(gòu)，并通過協(xié)同計算，形成一個既高彈性又高能效比的NPU架構(gòu)。在這種AI-NPU架構(gòu)中MMSCIM支持基礎(chǔ)性通用AI算子，提供低功耗大算力。
馬大行特別提到，基于這樣的一種架構(gòu)，炬芯科技產(chǎn)品的算力能效比在行業(yè)內(nèi)是相當突出的。對于端側(cè)設(shè)備來說，只談算力，只談功耗都是片面的。隨身類設(shè)備不可能一味拔高算力，算力的提升肯定會拉高功耗，影響設(shè)備續(xù)航。解決這些設(shè)備的智能化升級關(guān)鍵在于找到算力和功耗的平衡點。
能效比因此極為關(guān)鍵，以便攜式音頻和穿戴領(lǐng)域為例，能效比的需求是比較高的，因為這種設(shè)備它都需要一個很低的功耗去保證長續(xù)航時間。對于這樣的應用，炬芯科技通過創(chuàng)新的三核異構(gòu)架構(gòu)完美解決了能效比痛點。
基于這些芯片優(yōu)勢，炬芯科技圍繞端側(cè)AI打造了一系列生態(tài)配套，用完整的生態(tài)去推動端側(cè)AI的落地。從技術(shù)策略到芯片產(chǎn)品，到開發(fā)生態(tài)，到最終應用落地，端側(cè)產(chǎn)品落地整個環(huán)節(jié)里的需求炬芯科技都做了相關(guān)布局，產(chǎn)品落地是最終的導向。今年產(chǎn)業(yè)鏈都在尋找端側(cè)AI應用落地方向，推動端側(cè)產(chǎn)品落地商業(yè)化才能最終給用戶帶來價值。
解決終端設(shè)備體驗痛點，技術(shù)創(chuàng)新引領(lǐng)端側(cè)AI落地
音頻技術(shù)是炬芯科技的最核心競爭力之一，炬芯科技也歷經(jīng)了音頻市場的一次又一次技術(shù)變革。馬大行表示，音頻是很神奇的一個東西，其需求永遠有挖掘的空間。從普通的音頻傳輸需求到發(fā)燒級別的高音質(zhì)需求，炬芯科技在多年的賽道深耕中，持續(xù)做著不同市場下的音頻需求挖掘，并不斷創(chuàng)新來提高音頻質(zhì)量。
馬大行指出，在目前的無線音頻階段，如何提供高清無損的音頻體驗、如何在更低延遲下提供更高音質(zhì)體驗都是極具考驗的。錨定無線音頻市場的這些痛點，炬芯科技近些年以藍牙音頻為代表的藍牙音箱產(chǎn)品成功獲得了國際一線品牌（哈曼、SONY、BOSE等）的青睞，并在音頻有線轉(zhuǎn)無線的過程中抓住了行業(yè)痛點，成功打造了低延遲高音質(zhì)這樣的無線音頻芯片核心優(yōu)勢，助力無線麥克風、電競耳機等更專業(yè)音頻產(chǎn)品的商業(yè)成功。在AI時代利用獨有的端側(cè)AI技術(shù)為音頻產(chǎn)品的革命注入源源不斷的動力，朝著成為全球視野的專業(yè)音頻芯片品牌不斷前進。
從聲音的采集、聲音的處理到無線的傳輸，炬芯科技基于二十多年的音頻處理技術(shù)積累不斷創(chuàng)新，端側(cè)AI時代炬芯科技也充分利用布局已久的端側(cè)AI技術(shù)去驅(qū)動這些產(chǎn)品的革新，讓AI技術(shù)能更好地應用在端側(cè)音頻設(shè)備上，并讓音頻應用成為端側(cè)AI率先落地的重要支點。
炬芯科技提出的“Actions Intelligence”正是針對電池驅(qū)動的端側(cè)AI落地提出的戰(zhàn)略，致力于為低功耗AIoT裝置打造在10mW-100mW之間的功耗下提供0.1-1TOPS的通用AI算力（能效比為10TOPS/W~100TOPS/W），在低功耗的條件下提供更大的AI算力。
在此前的文章中物聯(lián)網(wǎng)智庫曾表示“隨著端側(cè)AI應用普及，存算一體化被重視起來，根據(jù)不同側(cè)重還能細分到近存計算、存內(nèi)處理和存內(nèi)計算。對數(shù)據(jù)處理速度和存儲效率的要求不斷提高，傳統(tǒng)與計算分離的存儲解決方案日后或許承載不了端側(cè)AI對實時性和能效的需求?！敝档靡惶岬氖蔷嫘究萍紕?chuàng)新采用了基于模數(shù)混合SRAM存內(nèi)計算技術(shù)，很好的解決了傳統(tǒng)馮·諾依曼架構(gòu)存在的“存儲墻”、“功耗墻”等問題，滿足了端側(cè)AI應用對于實時性和能效比的需求。
基于模數(shù)混合SRAM的存內(nèi)計算在保證能效比的同時，還能保證精度和量產(chǎn)一致性。對追求極致能效比的低功耗智能設(shè)備來說，這一創(chuàng)新設(shè)計進一步挖掘了每毫瓦功耗下的AI能力，無疑將大力推動端側(cè)AI音頻設(shè)備的落地。據(jù)悉，炬芯科技最新一代端側(cè)AI音頻芯片ATS323X系列已成功在專業(yè)音頻品牌猛瑪(MOMA)推出的旗艦級無線監(jiān)聽麥克風Lark Max2中落地應用，該產(chǎn)品一經(jīng)推出即引領(lǐng)無線麥克風市場浪潮，為用戶帶來更專業(yè)的創(chuàng)作體驗。
馬大行補充道，炬芯科技會持續(xù)深耕音頻領(lǐng)域并不斷筑牢自己在該領(lǐng)域里的技術(shù)壁壘，用創(chuàng)新的技術(shù)驅(qū)動并引領(lǐng)終端產(chǎn)品的智能變革。同時炬芯科技也會從音頻的制高點出發(fā)，向外延伸自己的商業(yè)版圖，以全球的視野覆蓋AIoT領(lǐng)域萬億增量市場。
寫在最后
展望端側(cè)AI發(fā)展，端側(cè)AI市場的爆發(fā)式一定是毋庸置疑的，隨著芯片技術(shù)不斷提升，以及應用市場的拓展，一些有價值的產(chǎn)品會快速進入到落地階段。炬芯科技也將持續(xù)推進“Actions Intelligence”端側(cè)AI戰(zhàn)略，打造完整的生態(tài)來推動AI應用落地。
