【儀表網(wǎng) 研發(fā)快訊】近日，上海交通大學(xué)電子信息與電氣工程學(xué)院計算機(jī)科學(xué)與工程系鄭偉龍團(tuán)隊在類腦智能領(lǐng)域取得重要進(jìn)展，相關(guān)研究成果以“Rapid context inference in a thalamocortical model using recurrent neural networks”(基于遞歸神經(jīng)網(wǎng)絡(luò)的丘腦皮層模型中的快速情境推斷)為題在國際著名期刊《Nature Communications》上發(fā)表。
 

研究背景
 

　　情境是一個抽象的目標(biāo)、記憶和外部線索的集合，這些信息有助于產(chǎn)生適當(dāng)?shù)男袨榉磻?yīng)。人類和動物基于變化的情境信息表現(xiàn)出靈活的決策能力。這種靈活性體現(xiàn)在能夠生成情境依賴的學(xué)習(xí)行為，并快速、靈活地適應(yīng)新情境，而不覆蓋先前的學(xué)習(xí)。為了實(shí)現(xiàn)這些目標(biāo)，情境推斷是支撐認(rèn)知靈活性許多方面的基本過程。來自人類和動物研究的實(shí)驗(yàn)證據(jù)強(qiáng)調(diào)了情境推斷的重要性。研究表明，情境推斷障礙與認(rèn)知靈活性降低與多種心理障礙疾病(如精神分裂癥)相關(guān)聯(lián)。
 

　　情境推斷背后的神經(jīng)機(jī)制仍然在研究中，例如其相關(guān)神經(jīng)生理機(jī)制和計算理論。已有研究表明，前額皮層(PFC)在認(rèn)知靈活性中發(fā)揮著關(guān)鍵作用。PFC接收來自其他腦區(qū)(包括皮層、丘腦和杏仁核)的多種輸入，同時也輸出到這些腦區(qū)。在這些腦區(qū)中，內(nèi)側(cè)背丘腦(MD)最近受到特別關(guān)注，因?yàn)樗cPFC之間有著密集的投射關(guān)系。近期研究表明，MD調(diào)節(jié)PFC神經(jīng)元動態(tài)及其有效連接，以支持適應(yīng)性行為。具體而言，MD神經(jīng)元增強(qiáng)局部皮層的連接性，并維持PFC中的規(guī)則表示。MD編碼情境信息(刺激呈現(xiàn)的統(tǒng)計規(guī)律)，并調(diào)節(jié)PFC神經(jīng)元反應(yīng)。通過這種方式，MD維持與情境相關(guān)的PFC表征，同時抑制與情境無關(guān)的表征。小鼠行為表現(xiàn)的實(shí)驗(yàn)結(jié)果表明，情境推斷可以在僅僅幾次試驗(yàn)內(nèi)迅速發(fā)生。除了在情境推斷中的作用外，MD還與一系列其他認(rèn)知功能有關(guān)。這些發(fā)現(xiàn)強(qiáng)調(diào)了丘腦皮層相互作用在推斷時間情境中的關(guān)鍵作用，這是認(rèn)知靈活性的一個重要組成部分。
 

　　近年來，遞歸神經(jīng)網(wǎng)絡(luò)(RNN)被廣泛用于前額皮層(PFC)動態(tài)的計算建模。盡管神經(jīng)網(wǎng)絡(luò)在各種認(rèn)知任務(wù)中表現(xiàn)良好，但當(dāng)任務(wù)按順序?qū)W習(xí)時，它們通常會遭遇嚴(yán)重的性能下降，稱為災(zāi)難性遺忘。在這種情況下，整個神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)新任務(wù)時需要重新訓(xùn)練，而不保護(hù)對過去任務(wù)的先前學(xué)習(xí)知識。持續(xù)學(xué)習(xí)或終身學(xué)習(xí)在動態(tài)環(huán)境中對人類學(xué)習(xí)至關(guān)重要，使模型能夠同時解決不同的任務(wù)而不發(fā)生干擾。學(xué)術(shù)界提出了許多持續(xù)學(xué)習(xí)方法，主要分為三種策略：基于重放的方法、基于正則化的方法和基于架構(gòu)的方法。然而，大多數(shù)持續(xù)學(xué)習(xí)方法在訓(xùn)練過程中需要明確的任務(wù)標(biāo)簽。例如，提供任務(wù)標(biāo)簽的獨(dú)熱編碼向量作為模型的輸入。在執(zhí)行任務(wù)時，如何快速而準(zhǔn)確地從神經(jīng)表征中推斷出任務(wù)標(biāo)簽或時間情境信息尚不清楚。在本研究中，研究團(tuán)隊展示了將丘腦皮層神經(jīng)環(huán)路的生物特性融入神經(jīng)網(wǎng)絡(luò)，可以幫助網(wǎng)絡(luò)在僅僅幾次試驗(yàn)內(nèi)持續(xù)推斷時間情境信息，并在動態(tài)變化的環(huán)境中實(shí)現(xiàn)持續(xù)學(xué)習(xí)。
 

　　為了開發(fā)快速的在線情境推斷計算模型，研究團(tuán)隊在本研究中提出了新穎的雙系統(tǒng)遞歸神經(jīng)網(wǎng)絡(luò)模型，包含MD丘腦模塊和PFC模塊。模型采用基于赫布學(xué)習(xí)的突觸可塑性，以無監(jiān)督的方式在PFC和MD之間進(jìn)行，使MD模塊能夠通過整合試驗(yàn)中的情境相關(guān)活動來推斷時間情境。MD投射對PFC的任務(wù)表征進(jìn)行調(diào)控，以避免不同任務(wù)表征之間的干擾。研究團(tuán)隊訓(xùn)練網(wǎng)絡(luò)實(shí)現(xiàn)情境依賴決策任務(wù)，這與動物實(shí)驗(yàn)小鼠接受的注意力引導(dǎo)行為任務(wù)相似。PFC-MD神經(jīng)網(wǎng)絡(luò)結(jié)果與小鼠的PFC和MD的神經(jīng)記錄一致。研究團(tuán)隊發(fā)現(xiàn)，PFC-MD網(wǎng)絡(luò)在靈活切換時間情境任務(wù)方面優(yōu)于僅有PFC的模型。研究團(tuán)隊還評估了模型在更一般的認(rèn)知任務(wù)上的性能，并將模型性能與現(xiàn)有的生物學(xué)上合理的持續(xù)學(xué)習(xí)方法進(jìn)行了比較。實(shí)驗(yàn)結(jié)果表明，PFC-MD神經(jīng)網(wǎng)絡(luò)在持續(xù)學(xué)習(xí)和知識遷移方面具有計算優(yōu)勢。
 

　　研究亮點(diǎn)
 

　　認(rèn)知靈活性是一種使人類和動物能夠在各種情境中表現(xiàn)出適當(dāng)行為的基本能力。前額皮層(PFC)與內(nèi)側(cè)背丘腦(MD)之間的丘腦皮層相互作用被認(rèn)為對推斷時間情境至關(guān)重要。快速情境推斷是認(rèn)知靈活性的重要組成部分。然而，負(fù)責(zé)情境推斷的相關(guān)神經(jīng)機(jī)制仍不清楚。為了解決這一問題，研究團(tuán)隊提出了一個利用赫布可塑性規(guī)則的PFC-MD神經(jīng)網(wǎng)絡(luò)模型，以支持快速的在線情境推斷。具體而言，模型中的MD丘腦能夠在較少次試驗(yàn)中從前額葉皮層輸入推斷時間情境信息。這個主要是利用本研究設(shè)計的具有pre-synaptic trace和自適應(yīng)閾值的前額皮層到丘腦突觸可塑性規(guī)則，以及丘腦winner-take-all歸一化來實(shí)現(xiàn)的。此外，丘腦模塊能夠調(diào)控前額皮層中與情境無關(guān)的神經(jīng)元活動，從而促進(jìn)持續(xù)學(xué)習(xí)。研究團(tuán)隊通過讓模型順序?qū)W習(xí)各種認(rèn)知任務(wù)來評估其性能。實(shí)驗(yàn)結(jié)果表明，引入類似丘腦神經(jīng)模塊減輕了對先前任務(wù)的災(zāi)難性遺忘，并展示了向未來任務(wù)學(xué)習(xí)的知識遷移能力。研究團(tuán)隊的研究利用了丘腦皮層神經(jīng)環(huán)路的神經(jīng)網(wǎng)絡(luò)特性來實(shí)現(xiàn)快速情境推斷和持續(xù)學(xué)習(xí)。
 

　　研究內(nèi)容
 

圖1 具有突觸可塑性的PFC-MD模型框架
 

　　研究團(tuán)隊設(shè)計了具有赫布學(xué)習(xí)規(guī)則的皮層-丘腦神經(jīng)網(wǎng)絡(luò)模型，在PFC至MD的連接中推斷時間情境，并在PFC中實(shí)現(xiàn)MD門控。傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)針對單一情境或任務(wù)進(jìn)行優(yōu)化，容易遭遇災(zāi)難性遺忘。在新情境或任務(wù)中，舊情境或任務(wù)中學(xué)習(xí)到的關(guān)鍵模型參數(shù)被改變。研究團(tuán)隊提出了具有pre-synaptic and post-synaptic trances、自適應(yīng)閾值和winner-take-all機(jī)制的突觸可塑性規(guī)則，以使神經(jīng)網(wǎng)絡(luò)能夠推斷時間情境并實(shí)現(xiàn)持續(xù)學(xué)習(xí)。
 

圖2 PFC-MD神經(jīng)網(wǎng)絡(luò)模型中對時間情境的選擇性編碼
 

　　研究團(tuán)隊提出的模型與Rikhye及其同事的實(shí)驗(yàn)結(jié)果一致。分類結(jié)果顯示，PFC中可以解碼到規(guī)則和情境信息，而MD中只能解碼到情境信息。研究團(tuán)隊提出的PFC與MD之間的可塑性規(guī)則選擇性地使MD能夠從PFC獲取情境信息。該可塑性規(guī)則支持快速的在線情境推斷。另外，MD在各種噪聲條件下的情境解碼表現(xiàn)優(yōu)于PFC。
 

圖3 在更復(fù)雜的認(rèn)知任務(wù)上實(shí)現(xiàn)快速M(fèi)D情境推斷
 

　　研究團(tuán)隊研究了PFC-MD模型在需要動態(tài)處理輸入和在遞歸網(wǎng)絡(luò)中學(xué)習(xí)的更復(fù)雜任務(wù)中的魯棒性，例如各種認(rèn)知功能，包括工作記憶、決策、分類和抑制控制等任務(wù)。為了使模型能夠泛化到更加復(fù)雜的認(rèn)知任務(wù)，研究團(tuán)隊通過添加一個新的PFC-ctx模塊，提出了新的丘腦皮層相互作用方式，將任務(wù)學(xué)習(xí)和情境推斷分為兩個路徑。通過整合試驗(yàn)中PFC-ctx的神經(jīng)活動，MD能夠選擇性地編碼時間情境。情境編碼的模型結(jié)果顯示了PFC-ctx與MD之間顯著的性能差距，這與小鼠實(shí)驗(yàn)數(shù)據(jù)中PFC快速放電神經(jīng)元和MD神經(jīng)元之間的性能差距一致。
 

圖4 MD模塊支持PFC中的持續(xù)學(xué)習(xí)
 

　　除了推斷時間情境，MD對PFC有兩種不同的效應(yīng)：乘法效應(yīng)和加法效應(yīng)，分別是特定于情境的神經(jīng)連接增強(qiáng)和神經(jīng)活動抑制。通過引入MD模塊，不同情境/任務(wù)之間的神經(jīng)表征變得不相交，從而促進(jìn)PFC內(nèi)的有效群體編碼，實(shí)現(xiàn)持續(xù)學(xué)習(xí)。PFC-MD模型的表現(xiàn)優(yōu)于其他持續(xù)學(xué)習(xí)模型，主要得益于MD介導(dǎo)的抑制。PFC-MD模型對學(xué)習(xí)的情境知識具有權(quán)重保護(hù)機(jī)制。
 

圖 5 PFC-MD模型的正向遷移與任務(wù)相似性測量
 

　　人類和動物的大腦不僅僅是避免遺忘，還表現(xiàn)出在從先前學(xué)習(xí)的任務(wù)中轉(zhuǎn)移知識的高度靈活性，這一現(xiàn)象稱為正向遷移。具體而言，正向遷移指的是先前學(xué)習(xí)的任務(wù)能夠提升相關(guān)未來任務(wù)的表現(xiàn)和學(xué)習(xí)效率。為了使PFC-MD模型具備正向遷移的能力，模型允許不同認(rèn)知任務(wù)共享一部分PFC神經(jīng)元。除了抑制與任務(wù)無關(guān)的PFC神經(jīng)元外，任務(wù)選擇性MD神經(jīng)元還維持了一些在不同任務(wù)中共同的PFC神經(jīng)元活動。MD至PFC的投射可以根據(jù)任務(wù)相似性進(jìn)行調(diào)整。因此，對應(yīng)于MD至PFC效應(yīng)的不相交或重疊，PFC中的任務(wù)表征可以是完全模塊化的或部分模塊化的。實(shí)驗(yàn)結(jié)果表明，具有重疊效應(yīng)的PFC-MD模型在持續(xù)學(xué)習(xí)和正向遷移方面表現(xiàn)出對更相似任務(wù)的性能提升。
 

　　研究團(tuán)隊
 

　　上海交通大學(xué)電子信息與電氣工程學(xué)院計算機(jī)科學(xué)與工程系仿腦計算與機(jī)器智能研究中心鄭偉龍副教授為該論文的唯一第一作者和共同通訊作者，上海交通大學(xué)為該論文的第一單位和共同通訊單位。論文合作者還包括德克薩斯大學(xué)奧斯汀分校Zhongxuan Wu、麻省理工學(xué)院的Ali Hummos和Guangyu Robert Yang，以及塔夫茨大學(xué)醫(yī)學(xué)院的Michael M. Halassa。該工作得到了國家自然科學(xué)基金、科技創(chuàng)新2030重大項(xiàng)目和上海浦江人才計劃等項(xiàng)目的資助。
 

　　鄭偉龍，上海交通大學(xué)計算機(jī)科學(xué)與工程系長聘教軌副教授，博士生導(dǎo)師。入選國家級高層次海外青年人才和上海市海外高層次青年人才。他于2018年在上海交通大學(xué)計算機(jī)科學(xué)與工程系獲得博士學(xué)位，之后在哈佛大學(xué)醫(yī)學(xué)院麻省總醫(yī)院和麻省理工學(xué)院從事博士后研究，長期從事腦認(rèn)知與智能、情感計算、腦機(jī)交互、類腦計算理論與模型等方面研究。在國際高水平會議和期刊發(fā)表研究論文100余篇，多篇論文入選ESI高被引論文。榮獲IEEE Transactions on Autonomous Mental Development最佳論文獎、IEEE Transactions on Affective Computing最佳論文獎、ACM Multimedia Top Paper Award、中國人工智能學(xué)會優(yōu)秀博士學(xué)位論文獎以及吳文俊人工智能自然科學(xué)一等獎，入選上海市浦江人才項(xiàng)目、小米青年學(xué)者、微軟亞洲研究院鑄星計劃、AI華人青年學(xué)者榜單、2023全球前2%科學(xué)家年度影響力榜單。目前擔(dān)任IEEE Transactions on Affective Computing編委。