“不用最昂貴的鏡頭，也能拍出高清照片”，近年來，面對人們快速增長的影像清晰度需求，眾多手機、數(shù)碼相機廠商不斷探索如何在控制成本的情況下，使用AI模型進一步提升像素級。這一次，同樣的技術(shù)理念，卻被復旦大學計算機科學技術(shù)學院教授顏波帶領(lǐng)的團隊遷移到了生命科學實驗室里的常用研究工具“熒光顯微鏡”上。

4月12日，科學期刊《自然·方法》（Nature Methods）以《基于廣義熒光顯微鏡的圖像恢復的預訓練基礎(chǔ)模型》（Pre-training a Foundation Model for Generalizable Fluorescence Microscopy-Based Image Restoration）為題刊發(fā)團隊成果，他們發(fā)明的跨任務、多維度圖像增強基礎(chǔ)AI模型（UniFMIR），實現(xiàn)了對現(xiàn)有熒光顯微成像極限的突破。

何為熒光顯微鏡？這類顯微鏡利用部分物質(zhì)受紫外線照射后可發(fā)熒光的特性，以及通過染色讓本不具有該特性的物質(zhì)發(fā)出熒光，可以觀察細胞內(nèi)物質(zhì)的吸收、運輸、化學物質(zhì)的分布及定位等。在分辨率方面，它遠超普通光學顯微鏡0.2微米極限，到達觀測分子的納米尺度，是生命科學領(lǐng)域不可或缺的研究工具。自2006年橫空出世，熒光顯微鏡已幫助全球科學家研制出了對帕金森氏癥、阿爾茨海默氏癥和亨廷頓氏癥等神經(jīng)退行性疾病更有針對性的治療方法。

盡管熒光顯微鏡的觀測分辨率已達到納米尺度，但科學家們并不滿足于此。由于顯微鏡光學硬件和生物樣本光敏感性（在熒光照射下，生物活性降低）帶來的挑戰(zhàn)，過去幾年中，生命科學和計算機領(lǐng)域的科學家們開始攜手探索用AI的路徑來增強圖像質(zhì)量的辦法。然而，成像模式多樣、降質(zhì)類型復雜、增強過程迥異等一系列問題，使得這一任務極具挑戰(zhàn)性，于是，大多數(shù)科學家選擇“每次解決一個問題”，聚焦于研制針對單一需求的“專有”AI模型。

來自復旦大學的這支AI for Science團隊則選擇直擊挑戰(zhàn)，以“一站式集成”為目標，直接構(gòu)建了首個“統(tǒng)一”的熒光顯微鏡圖像增強AI基礎(chǔ)模型（UniFMIR），大幅提升在“圖像超分辨率重構(gòu)、各向同性重構(gòu)、3D去噪、圖像投影和過程重建”五大任務方向上的性能。

UniFMIR采用了基于Swin Transformer結(jié)構(gòu)的特征增強模塊來增強特征表示，針對不同任務的網(wǎng)絡(luò)流程共享相同的特征增強計算。通過收集的大規(guī)模數(shù)據(jù)集對模型進行預訓練，并使用不同圖像增強任務的數(shù)據(jù)微調(diào)模型參數(shù)，UniFMIR展現(xiàn)出比專有模型更好的增強性能和泛化性。

圖片:330e23a4-786a-4efa-b846-920a80cc65d3.png

熒光顯微鏡圖像增強基礎(chǔ)模型（UniFMIR）架構(gòu)

這意味著，加載了UniFMIR的熒光顯微鏡可能成為生命科學實驗室中的“神器”�？茖W家們能更清晰地觀察到活細胞內(nèi)部的微小結(jié)構(gòu)和復雜過程，加速全球生命科學、醫(yī)學研究、疾病診斷相關(guān)領(lǐng)域的科學發(fā)現(xiàn)和醫(yī)療創(chuàng)新；同時，在半導體制造、新材料研發(fā)等領(lǐng)域，該成果可以用來提升觀察和分析材料微觀結(jié)構(gòu)的質(zhì)量，從而優(yōu)化制造工藝和提高產(chǎn)品質(zhì)量。

UniFMIR的成功研發(fā)標志著我國在關(guān)鍵科學儀器領(lǐng)域“國產(chǎn)設(shè)備+基礎(chǔ)模型”的組合能有效減少對進口設(shè)備的依賴，增強國家科技自主性和產(chǎn)業(yè)安全，也為全球科研領(lǐng)域的進步貢獻了中國智慧和力量。

“這次我們想到把AI 圖像增強技術(shù)應用于熒光顯微鏡上，并構(gòu)建UniFMIR，出發(fā)點就是AI for Science。我們的模型為熒光顯微鏡圖像增強提供了一個通用的解決方案，通過簡單的參數(shù)微調(diào)便可應用于不同任務、成像模式和生物結(jié)構(gòu)。未來，生命科學實驗室的科學家們可通過進一步擴展訓練數(shù)據(jù)的數(shù)據(jù)量和豐富度來不斷強化UniFMIR的圖像重構(gòu)能力�！鳖伈▽�UniFMIR被用于更多類型實驗的可能性充滿信心。

該項研究由復旦大學計算機科學技術(shù)學院數(shù)字媒體實驗室完成。實驗室博士后馬晨曦博士和青年研究員譚偉敏博士為該工作的共同第一作者，顏波為通訊作者，其他作者還包括實驗室博士生何瑞安。該研究工作得到國家自然科學基金委和上海市科委項目資助。

論文鏈接：https://www.nature.com/articles/s41592-024-02244-3

Code：https://github.com/cxm12/UNiFMIR