炬芯科技周正宇博士:存內計算是突破AI芯片算力和功耗矛盾的關鍵
發布時間:2023-11-29 責任編輯:lina
【導讀】聲音是人與人交戶的重要手段,在AI興起的現今,也是人與機器相互溝通的手段之一。從模擬階段的留聲機開始到現在,人類對於高清化、高(gao)保(bao)真(zhen)的(de)追(zhui)求(qiu)一(yi)刻(ke)沒(mei)有(you)停(ting)歇(xie)過(guo),也(ye)逐(zhu)漸(jian)擺(bai)脫(tuo)了(le)線(xian)束(shu)的(de)約(yue)束(shu)。對(dui)音(yin)頻(pin)來(lai)說(shuo),芯(xin)片(pian)至(zhi)關(guan)重(zhong)要(yao),它(ta)既(ji)要(yao)擁(yong)有(you)足(zu)夠(gou)的(de)算(suan)力(li),也(ye)要(yao)擁(yong)有(you)足(zu)夠(gou)低(di)的(de)功(gong)耗(hao)。
著名作家海倫·凱勒曾說過這樣一句話,“盲隔絕了人與物,聾隔絕了人與人。”可見聽力的重要性,由此可以看出,人的一生耳朵是最忙的感知係統之一。
聲音是人與人交戶的重要手段,在AI興起的現今,也是人與機器相互溝通的手段之一。從模擬階段的留聲機開始到現在,人類對於高清化、高(gao)保(bao)真(zhen)的(de)追(zhui)求(qiu)一(yi)刻(ke)沒(mei)有(you)停(ting)歇(xie)過(guo),也(ye)逐(zhu)漸(jian)擺(bai)脫(tuo)了(le)線(xian)束(shu)的(de)約(yue)束(shu)。對(dui)音(yin)頻(pin)來(lai)說(shuo),芯(xin)片(pian)至(zhi)關(guan)重(zhong)要(yao),它(ta)既(ji)要(yao)擁(yong)有(you)足(zu)夠(gou)的(de)算(suan)力(li),也(ye)要(yao)擁(yong)有(you)足(zu)夠(gou)低(di)的(de)功(gong)耗(hao)。
據SIG預測,到2027年藍牙音頻傳輸設備年出貨量將達18.4億台,2023年~2027年的年複合增長率為6%,藍牙數據傳輸設備年度出貨量將達到18.7億台,2023年~2027年的複合年增長率為11%。
ICCAD 2023上,炬芯科技股份有限公司董事長兼CEO周正宇博士博士分享了炬芯在AI大背景下,如何為音頻芯片提供更多創新。
20多年專注音頻領域
“炬芯的前身就是原來的炬力集成,我們在行業中做了20多年音頻,2005年炬力集成基於便攜式音頻在美國上市,2021年炬芯基於藍牙音頻在科創板上市。”周正宇博士這樣介紹道。
炬芯2023年半年報和官網顯示,其核心產品包括藍牙音頻SoC芯片、端側AI處理器芯片、便攜式音視頻SoC芯片三類。
藍牙音頻 SoC 芯片係列主要應用於藍牙音箱(含TWS音箱、智能藍牙音箱)、Soundbar、智能手表、藍牙耳機(含TWS耳機、開放式OWS耳機)、無線電競耳機等。
端側AI處理器芯片係列是基於端側的帶有人工智能加速器的 係統級音頻處理器,致力於提供智能物聯網AIoT端(duan)側(ce)低(di)功(gong)耗(hao)算(suan)力(li)的(de)芯(xin)片(pian)平(ping)台(tai),也(ye)是(shi)炬(ju)芯(xin)主(zhu)營(ying)的(de)音(yin)頻(pin)產(chan)品(pin)和(he)人(ren)工(gong)智(zhi)能(neng)技(ji)術(shu)的(de)重(zhong)要(yao)結(jie)合(he)點(dian),可(ke)滿(man)足(zu)市(shi)場(chang)未(wei)來(lai)日(ri)新(xin)月(yue)異(yi)的(de)低(di)功(gong)耗(hao)端(duan)側(ce)設(she)備(bei)的(de)人(ren)工(gong)智(zhi)能(neng)應(ying)用(yong)需(xu)求(qiu)。
便攜式音視頻SoC芯片係列是炬芯最早耕耘的、最成熟的產品線,全球市場占有率長期較高,搭載了公司長期積累的、較先進的低功耗音視頻處理技術。該係列芯片主要針對便攜式高品質音視頻編解碼類產品的應用。
juticongshichanglaikan,juxinzaizhonggaoduanpinpailanyayinxiangshichangfenemingxianzengchang,xiayibuhuitongguochanpinchixudiedaishengjiheyouhuachanpinzuhejixutishengzaizhonggaoduanpinpaideshentoulv;低(di)延(yan)遲(chi)高(gao)音(yin)質(zhi)市(shi)場(chang)從(cong)有(you)線(xian)連(lian)接(jie)向(xiang)無(wu)線(xian)連(lian)接(jie)轉(zhuan)換(huan)的(de)趨(qu)勢(shi),帶(dai)來(lai)了(le)存(cun)量(liang)市(shi)場(chang)轉(zhuan)化(hua)和(he)新(xin)增(zeng)需(xu)求(qiu)兩(liang)個(ge)機(ji)會(hui),炬(ju)芯(xin)正(zheng)在(zai)持(chi)續(xu)加(jia)大(da)研(yan)發(fa)投(tou)入(ru)保(bao)持(chi)技(ji)術(shu)領(ling)先(xian)優(you)勢(shi)並(bing)與(yu)各(ge)大(da)品(pin)牌(pai)廠(chang)商(shang)繼(ji)續(xu)保(bao)持(chi)緊(jin)密(mi)合(he)作(zuo)以(yi)把(ba)握(wo)這(zhe)一(yi)波(bo)市(shi)場(chang)轉(zhuan)型(xing)機(ji)會(hui);此外,在智能手表市場,炬芯對中國、歐美和印度市場做了均衡的布局和節奏把握,智能手表作為貼合人體重要的健康數據監測產品,將持續深耕。
用存內計算創造更大算力和更低功耗
周正宇博士表示,過去以來,炬芯的芯片架構一般都是“CPU+DSP”的雙核架構,未來,AI時代,炬芯會在CPU和DSP的基礎上,從高端音頻芯片入手,整合低功耗 AI 加速引擎,逐步全麵升級為 CPU+DSP+NPU(based MMSCIM)三核異構的AI SoC架構,為便攜式產品提供更大的算力。,最新一代基於MMSCIM的高端AI音頻芯片ATS286X,將會在明年將會Sample。
“算力和功耗是一對矛盾統一體。”周正宇博士認為,如何在同樣的製程、同樣的架構、同樣的設計下,創造更大算力和更低功耗是AI時代的關鍵。
比如說,TWS耳機電池容量通常在35m~40mAh,典型平均工作電流約在5mA左右,也就是說,留給芯片的功耗預算隻有20mA左右。再比如,智能手表典型電池容量在280~300mAh,典型工作電流在3mA上下,也就是說在4.3V鋰電池中,隻有15mA左右的功耗,還包括ADC、DAC等器件,也就是說留給藍牙音頻芯片功耗隻有10mW。
與之相悖的是,AI驅動下,未來算力需求越來越大,也就是說,對藍牙音頻芯片商來說,要在10mW的功耗預算下,打造200~500GOPS算力是很大難題。
AI主要以複雜矩陣運算來形成,而複雜的矩陣運算最主要的算力功耗都來自於乘累加運算,過去芯片普遍采用DSP處(chu)理(li)音(yin)頻(pin),突(tu)破(po)的(de)關(guan)鍵(jian)就(jiu)在(zai)於(yu)突(tu)破(po)馮(feng)諾(nuo)範(fan)式(shi)的(de)存(cun)儲(chu)牆(qiang)和(he)功(gong)耗(hao)牆(qiang),即(ji)存(cun)內(nei)計(ji)算(suan),通(tong)俗(su)解(jie)釋(shi)就(jiu)是(shi)把(ba)計(ji)算(suan)和(he)存(cun)儲(chu)放(fang)在(zai)一(yi)個(ge)房(fang)間(jian)裏(li)去(qu),讓(rang)它(ta)們(men)零(ling)距(ju)離(li)溝(gou)通(tong)。
cunneijisuanyongyouxuduobutongjiezhi,daodinayizhongjiezhishihezuocunneijisuan?zhouzhengyuboshirenweigegejiezhijunyouqitedian,bulunnazhonglujing,zuizhuyaodewentijiushixierucishu,jiaruoAI需要做自適應或模型不斷更新,那麼它在寫入多次之後就會報廢,所以這種介質不適合做自適應應用,類似於Transformer這一類擁有自學能力的模型。
對比來看,SRAM讀寫速度快,擁有無限次讀寫能力,不僅采用標準工藝製造,還可以集成在SoC內,但它的弱點是存儲密度低。不過,雖然如此,SRAM依舊是低功耗AI算力的首選。一方麵,音頻隻需要200~500GOPS的算力,而非幾十TOPS,密度低的缺陷因此而被規避,另一方麵,標準的CMOS工藝不僅可以現在就能大規模量產,還可以集成在單芯片上跟隨製程工藝演進到2nm。加之無限次寫入,可以支持自適應計算,長遠來看,RL(強化學習)和ML(機器學習)可能也會為它帶來更多驚喜。
存內計算也擁有模擬和數模混合兩個技術路徑,它們最大的差異主要在於運算用ADC+模擬電路實現的,還是基於數字電路實現。
炬芯科技選擇的是模數混合的存內計算,暫時命名為“Mixed-Mode SRAM based CIM”,簡稱MMSCIM,其優勢是精度無限,可靠性和量產的一致性非常高,容易在製程上升級,容易提升速度或PPA。
目前,該芯片雖然還沒有進入量產階段,但進展非常快。它在全矩陣運算情況下,未來22nm就有望達到每瓦7.8TOPS的能效比。值得一提的是,在12nm情況下,它就已經接近50TOPS,足以挑戰在10mW範圍內釋放200~500GOPS算力。
邊緣與AI融合,挑戰與機遇並存
在周正宇博士看來,未來端側也會實現像ChatGPT、Tranformoer或類似的功能,或許是手機,或者是手表,未來這些能力都能被人所觸及。就比如說,早年軟盤隻有1.44MB的存儲空間,而現在TWS耳機中的存儲空間都超過了幾十兆。
端側是AI非常好的載體,以手表為例,它是唯一一個長時間佩戴且緊貼皮膚的裝置,因此,非常方便成為健康監測裝置,隨著傳感器發展,心率、血壓信息都成為了可測量的數據。而最終,它會成為一個能夠隨時監測健康狀態的能手。
把幾億人的信息全部送到雲端處理顯然不現實,而當邊緣端擁有AI,把專業的醫學知識灌注給它,它就會像一個移動醫生一樣,隨時判斷心率、血氧變化是否健康。這就是邊緣AI的重要意義,這樣的例子在邊緣AI中不勝枚舉。
當然,挑戰與機遇並存。對國產來說,在端側做AI挑戰有兩方麵,一方麵如何以更好的能效比、PPA來實現人工智能,另一方麵則是在於芯片製造,如何利用主流製程做到先進製程的產品性能,這是國產芯片設計公司必須麵對的挑戰。
自從ChatGPT問世,最大的變化是自學習和自適應,而在其中隱私是很大問題,未來端側也必然也要麵對這樣的挑戰。
”我認為現在AI最缺乏的是生態。”事實上,芯片行業大多情況都會把重點放在硬件設計,但實際上,一個行業必須擁有自己的生態,國內更需要自己的生態。就比如說,TensorFlow與yu算suan力li之zhi前qian其qi實shi中zhong間jian還hai間jian隔ge了le很hen多duo層ceng,或huo者zhe說shuo工gong具ju,如ru果guo能neng做zuo好hao這zhe一yi層ceng,就jiu能neng建jian設she好hao更geng好hao的de國guo產chan生sheng態tai。炬ju芯xin也ye會hui持chi續xu深shen耕geng,為wei國guo產chan芯xin片pian與yu生sheng態tai建jian設she添tian磚zhuan加jia瓦wa。
免責聲明:本文為轉載文章,轉載此文目的在於傳遞更多信息,版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權問題,請聯係小編進行處理。
推薦閱讀:
以工藝窗口建模探索路徑:使用虛擬製造評估先進DRAM電容器圖形化的工藝窗口
- 噪聲中提取真值!瑞盟科技推出MSA2240電流檢測芯片賦能多元高端測量場景
- 10MHz高頻運行!氮矽科技發布集成驅動GaN芯片,助力電源能效再攀新高
- 失真度僅0.002%!力芯微推出超低內阻、超低失真4PST模擬開關
- 一“芯”雙電!聖邦微電子發布雙輸出電源芯片,簡化AFE與音頻設計
- 一機適配萬端:金升陽推出1200W可編程電源,賦能高端裝備製造
- 1200餘家企業齊聚深圳,CITE2026打造電子信息產業創新盛宴
- 掌握 Gemini 3.1 Pro 參數調優的藝術
- 築牢安全防線:電池擠壓試驗機如何為新能源產業護航?
- Grok 4.1 API 實戰:構建 X 平台實時輿情監控 Agent
- 電源芯片國產化新選擇:MUN3CAD03-SF助力物聯網終端“芯”升級
- 車規與基於V2X的車輛協同主動避撞技術展望
- 數字隔離助力新能源汽車安全隔離的新挑戰
- 汽車模塊拋負載的解決方案
- 車用連接器的安全創新應用
- Melexis Actuators Business Unit
- Position / Current Sensors - Triaxis Hall



