理學(xué)院大數(shù)據(jù)研究團(tuán)隊(duì)在人工智能與大數(shù)據(jù)處理領(lǐng)域發(fā)表系列高水平研究成果
我校理學(xué)院大數(shù)據(jù)研究團(tuán)隊(duì)在人工智能與大數(shù)據(jù)處理技術(shù)研究方面取得系列進(jìn)展,研究成果分別發(fā)表在IEEE Transactions on Neural Networks and Learning Systems、IEEE Transactions on Cybernetics和Information Sciences三大人工智能頂級(jí)期刊。神經(jīng)網(wǎng)絡(luò)是人工智能領(lǐng)域中目前最為火熱的研究方向——深度學(xué)習(xí)的架構(gòu)基礎(chǔ)。雖然深度學(xué)習(xí)在近幾年發(fā)展迅速,但是關(guān)于如何設(shè)計(jì)最優(yōu)神經(jīng)網(wǎng)絡(luò)架構(gòu)的問(wèn)題仍處于探索階段。該團(tuán)隊(duì)分別針對(duì)人工智能中神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜、高維大規(guī)模數(shù)據(jù)存在無(wú)效和冗余特征、難以獲取長(zhǎng)時(shí)序信息等問(wèn)題與缺陷,設(shè)計(jì)出了一系列網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化、大數(shù)據(jù)特征選擇和時(shí)序循環(huán)神經(jīng)網(wǎng)絡(luò)模型,有效改善了上述不足,提高了人工智能模型的學(xué)習(xí)性能。 題目為《帶Group Lasso懲罰與控制冗余的神經(jīng)網(wǎng)絡(luò)特征選擇》(Feature Selection using a Neural Network With Group Lasso Regularization and Controlled Redundancy)的研究論文發(fā)表在人工智能領(lǐng)域權(quán)威國(guó)際期刊IEEE Transactions on Neural Networks and Learning Systems。王健副教授和博士生張華清為該論文共同第一作者, 我校榮譽(yù)教授Nikhil R. Pal院士(印度統(tǒng)計(jì)研究所)參與指導(dǎo),中國(guó)石油大學(xué)(華東)為第一署名單位。該項(xiàng)工作得到國(guó)家自然科學(xué)基金、國(guó)家科技重大專項(xiàng)、山東自然科學(xué)基金、中央高校基本科研業(yè)務(wù)費(fèi)、中國(guó)石油天然氣集團(tuán)公司重大科技項(xiàng)目以及山東省高校青年創(chuàng)新科技支撐計(jì)劃的資助。 特征選擇技術(shù)也稱屬性選擇,是指從原始特征或?qū)傩灾羞x擇出最有效的特征或?qū)傩砸越档蛿?shù)據(jù)維度的過(guò)程,它是人工智能數(shù)據(jù)預(yù)處理環(huán)節(jié)的重要步驟,也是大數(shù)據(jù)處理技術(shù)的重要環(huán)節(jié)。該項(xiàng)工作在神經(jīng)網(wǎng)絡(luò)中嵌入Group Lasso懲罰項(xiàng)并實(shí)現(xiàn)特征冗余控制,在選出對(duì)解決問(wèn)題最有幫助、蘊(yùn)含信息量最大的特征或?qū)傩缘耐瑫r(shí),控制所選特征子集的冗余程度,以達(dá)到降維的最優(yōu)效果,從而使模型的泛化能力更強(qiáng),降低神經(jīng)網(wǎng)絡(luò)模型產(chǎn)生過(guò)擬合的風(fēng)險(xiǎn)。 題目為《基于L1正則化的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化模型設(shè)計(jì)與分析》(Learning Optimized Structure of Neural Networks by Hidden Node Pruning With L1Regularization)的研究論文發(fā)表在國(guó)際人工智能領(lǐng)域權(quán)威期刊IEEE Transactions on Cybernetics。碩士生謝雪濤和博士生張華清為論文共同第一作者,王健副教授為通訊作者,我校榮譽(yù)教授Nikhil R. Pal院士(印度統(tǒng)計(jì)研究所)參與指導(dǎo),中國(guó)石油大學(xué)(華東)為第一署名單位。該項(xiàng)研究成果得到了國(guó)家自然科學(xué)基金、山東省自然科學(xué)基金和中央高校基本科研業(yè)務(wù)費(fèi)的資助。 該項(xiàng)工作借助L1正則子具有的稀疏表達(dá)能力,提出兩種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化學(xué)習(xí)模型;本項(xiàng)工作另外一個(gè)突出貢獻(xiàn)就是提出了一種簡(jiǎn)單且具有通用性的收斂性證明方法,同時(shí)保證了模型設(shè)計(jì)的合理性。實(shí)驗(yàn)結(jié)果表明所提出模型具有強(qiáng)大的魯棒性、廣泛的適用性、理想的剪枝能力和良好的泛化能力,適用處理高維大數(shù)據(jù)。該研究成果在人工智能與深度學(xué)習(xí)構(gòu)造最簡(jiǎn)網(wǎng)絡(luò)結(jié)構(gòu)方面具有很強(qiáng)的指導(dǎo)作用和應(yīng)用推廣價(jià)值。
中國(guó)石油大學(xué)(華東)
2021-02-01