隨著人工智能的飛速發(fā)展，無人駕駛和具身智能等無人系統(tǒng)正在現(xiàn)實社會中不斷推廣應(yīng)用，引領(lǐng)著新一輪科技革命和產(chǎn)業(yè)變革。在這些智能系統(tǒng)中，視覺感知作為獲取信息的核心途徑，發(fā)揮著至關(guān)重要的作用。然而，在復(fù)雜多變且不可預(yù)測的環(huán)境中，實現(xiàn)高效、精確且魯棒的視覺感知依然是一個艱巨的挑戰(zhàn)。

在開放世界中，智能系統(tǒng)不僅要處理龐大的數(shù)據(jù)量，還需要應(yīng)對各種極端事件，如駕駛中的突發(fā)危險、隧道口的劇烈光線變化和夜間強閃光干擾等。傳統(tǒng)視覺感知芯片由于受到“功耗墻”和“帶寬墻”的限制，在應(yīng)對這些場景時往往面臨失真、失效或高延遲的問題，嚴(yán)重影響了系統(tǒng)的穩(wěn)定性和安全性。

為了克服這些挑戰(zhàn)，清華大學(xué)精密儀器系類腦計算研究中心聚焦類腦視覺感知芯片技術(shù)，提出了一種基于視覺原語的互補雙通路類腦視覺感知新范式。該范式借鑒了人類視覺系統(tǒng)的基本原理，將開放世界的視覺信息拆解為基于視覺原語的信息表示，并通過有機組合這些原語，模仿人視覺系統(tǒng)的特征，形成兩條優(yōu)勢互補、信息完備的視覺感知通路。基于這一新范式，團(tuán)隊進(jìn)一步研制出了世界首款類腦互補視覺芯片“天眸芯”，在極低的帶寬（降低90%）和功耗代價下，實現(xiàn)了每秒10000幀的高速、10bit的高精度、130dB的高動態(tài)范圍的視覺信息采集。它不僅突破了傳統(tǒng)視覺感知范式的性能瓶頸，而且能夠高效應(yīng)對各種極端場景，確保系統(tǒng)的穩(wěn)定性和安全性�；�于“天眸芯”，團(tuán)隊還自主研發(fā)了高性能軟件和算法，并在開放環(huán)境車載平臺上進(jìn)行了性能驗證。在多種極端場景下，該系統(tǒng)實現(xiàn)了低延遲、高性能的實時感知推理，展現(xiàn)了其在智能無人系統(tǒng)領(lǐng)域的巨大應(yīng)用潛力。

“天眸芯”的成功研制無疑是智能感知芯片領(lǐng)域的一個重大突破。它不僅為智能革命的發(fā)展提供了一個強大的技術(shù)支持，還為自動駕駛、具身智能等重要應(yīng)用開辟了新的道路。結(jié)合團(tuán)隊在類腦計算芯片“天機芯”、類腦軟件工具鏈和類腦機器人等方面已應(yīng)用落地的技術(shù)積累，“天眸芯”的加入將進(jìn)一步完善類腦智能生態(tài)，有力地推動人工通用智能的發(fā)展。

5月30日，基于該研究成果的論文“面向開放世界感知、具有互補通路的視覺芯片”（A Vision Chip with Complementary Pathways for Open-world Sensing）作為封面文章，登上《自然》（Nature）雜志。這是該團(tuán)隊繼異構(gòu)融合類腦計算“天機芯”后，第二次登上《自然》雜志封面，標(biāo)志著我國在類腦計算和類腦感知兩個重要方向上均取得了基礎(chǔ)性突破。

類腦互補視覺感知芯片“天眸芯”

清華大學(xué)精密儀器系施路平教授和趙蓉教授為論文通訊作者，精密儀器系楊哲宇博士（現(xiàn)為北京靈汐科技有限公司研發(fā)經(jīng)理）、精密儀器系2020級博士生王韜毅、林逸晗為論文共同第一作者。清華大學(xué)為論文第一單位，合作單位包括北京靈汐科技有限公司。

該研究得到了科技部科技創(chuàng)新2030“腦科學(xué)與類腦研究”重大項目和國家自然科學(xué)基金委的支持，也得到了清華大學(xué)/IDG-麥戈文腦科學(xué)研究院的支持。

論文鏈接：https://www.nature.com/articles/s41586-024-07358-4