Activities
2020年11月7日下午，2020中國(guó)自動(dòng)化大會(huì)專題論壇之“智能計(jì)算與機(jī)器學(xué)習(xí)”在上海國(guó)際會(huì)議中心成功召開。智能計(jì)算與機(jī)器學(xué)習(xí)是目前實(shí)現(xiàn)人工智能最主要的途徑和方式，也是人工智能中最具智能特征、最前沿的研究領(lǐng)域之一，是綜合自動(dòng)化、計(jì)算機(jī)科學(xué)、數(shù)學(xué)、生物學(xué)、神經(jīng)科學(xué)等多學(xué)科的新興交叉領(lǐng)域。此次專題論壇面向未來(lái)通用人工智能發(fā)展的趨勢(shì)，展示智能計(jì)算與機(jī)器學(xué)習(xí)領(lǐng)域最新的研究成果，包括機(jī)器學(xué)習(xí)的公理化、頓悟的人工智能模型、面向開放環(huán)境的魯棒模式識(shí)別、非監(jiān)督增強(qiáng)匹配、遷移性對(duì)抗攻擊、標(biāo)記增強(qiáng)以及神經(jīng)網(wǎng)絡(luò)訓(xùn)練等。
此次論壇由中國(guó)工程院王天然院士與清華大學(xué)周杰教授共同擔(dān)任論壇主席。論壇由周杰教授主持。
.jpg)
論壇主席王天然院士
.jpg)
論壇主席周杰教授
中國(guó)科學(xué)院自動(dòng)化研究所劉成林研究員做了題為《面向開放環(huán)境的魯棒模式識(shí)別》的報(bào)告。劉成林研究員首先對(duì)該領(lǐng)域的相關(guān)工作做出了總體的介紹，然后介紹了深度學(xué)習(xí)在其中取得的豐碩成果，同時(shí)詳細(xì)分析了傳統(tǒng)模式識(shí)別分類器在開放集中學(xué)習(xí)效果不佳的原因。并由此提出了基于卷積原型學(xué)習(xí)的開放集分類方法，該方法使用卷積神經(jīng)網(wǎng)絡(luò)提取圖像特征后，基于最近距離規(guī)則在特征空間對(duì)其分類。最后，劉成林研究員介紹了該方法在異常模式拒識(shí)以及小樣本學(xué)習(xí)模型泛化領(lǐng)域取得的最新進(jìn)展。
.jpg)
劉成林：面向開放環(huán)境的魯棒模式識(shí)別
清華大學(xué)張長(zhǎng)水教授在報(bào)告《圖像的非監(jiān)督增強(qiáng)匹配》中介紹了關(guān)于圖像的非監(jiān)督增強(qiáng)匹配方法研究的有關(guān)進(jìn)展和一些思考。張教授首先說(shuō)明當(dāng)前在使用深度神經(jīng)網(wǎng)絡(luò)識(shí)別圖像時(shí)，需要標(biāo)注大量圖像，而這需要耗費(fèi)大量的人力和時(shí)間。對(duì)于這一問題，他給出的解決方案是：給定一些物體的標(biāo)準(zhǔn)圖像，對(duì)大量未標(biāo)注的圖像實(shí)現(xiàn)自動(dòng)的圖像標(biāo)注。然后介紹了圖像非監(jiān)督增強(qiáng)匹配算法的一些研究進(jìn)展與相關(guān)結(jié)果。最后，張教授以文字識(shí)別和交通標(biāo)示識(shí)別問題為例，介紹了其課題組設(shè)計(jì)的新方法，實(shí)驗(yàn)結(jié)果表明所提方法較好地完成了這些圖像的自動(dòng)標(biāo)注。
.jpg)
張長(zhǎng)水：圖像的非監(jiān)督增強(qiáng)匹配
北京大學(xué)林宙辰教授帶來(lái)報(bào)告：《Training Neural Networks by Lifted Proximal Operator Machines》。報(bào)告介紹了一種用于訓(xùn)練全連接前饋神經(jīng)網(wǎng)絡(luò)的Lifted Proximal Operator Machines(LPOM)方法。LPOM只使用激活函數(shù)本身，不需要梯度步驟，從而避免了基于梯度的方法中梯度消失或爆炸的問題。它還可以處理各種非遞減的Lipschitz連續(xù)激活函數(shù)。此外，LPOM的內(nèi)存效率幾乎與SGD一樣，而且它的參數(shù)調(diào)優(yōu)非常容易。報(bào)告中指出，林教授及其團(tuán)隊(duì)進(jìn)一步實(shí)現(xiàn)并分析了LPOM的并行解，同時(shí)驗(yàn)證了LPOM在各種網(wǎng)絡(luò)架構(gòu)和數(shù)據(jù)集上的優(yōu)勢(shì)。最后林教授介紹了一些最新研究進(jìn)展和思考。
.jpg)
林宙辰：Training Neural Networks by Lifted Proximal Operator Machines
上海交通大學(xué)楊杰教授的報(bào)告《第一類對(duì)抗攻擊與注意力的攻擊機(jī)制研究》，從注意力攻擊的角度介紹了神經(jīng)網(wǎng)絡(luò)的第一類對(duì)抗攻擊問題。由于基于神經(jīng)網(wǎng)絡(luò)的人工智能技術(shù)逐步在社會(huì)中展開應(yīng)用，其安全性問題成為學(xué)者關(guān)注的重點(diǎn)。楊杰教授首先介紹了神經(jīng)網(wǎng)絡(luò)對(duì)抗攻擊的背景，并提出了利用對(duì)抗攻擊生成統(tǒng)計(jì)學(xué)第一類錯(cuò)誤的方法。同時(shí)從注意力機(jī)制切入，結(jié)合其它遷移性增強(qiáng)方法，提出了一種具有高度遷移特性的神經(jīng)網(wǎng)絡(luò)攻擊方法。通過實(shí)驗(yàn)結(jié)果表明，當(dāng)前的主流深度神經(jīng)網(wǎng)絡(luò)在不加以防御的情況下準(zhǔn)確率均無(wú)法達(dá)到實(shí)用要求。
.jpg)
楊杰：第一類對(duì)抗攻擊與注意力的攻擊機(jī)制研究
北京交通大學(xué)于劍教授做了題為《機(jī)器學(xué)習(xí)的公理化研究》的報(bào)告。盡管目前機(jī)器學(xué)習(xí)已在圖像識(shí)別、語(yǔ)音處理及工業(yè)系統(tǒng)領(lǐng)域取得了豐碩的成果，但在其中很難看到基礎(chǔ)學(xué)科（例如數(shù)學(xué)、物理學(xué)）那種貫穿始終的體系。于教授首先介紹了機(jī)器學(xué)習(xí)的國(guó)內(nèi)外教材與流派，從而引出了關(guān)于機(jī)器學(xué)習(xí)的公理化的思考。然后，類比人類與機(jī)器的學(xué)習(xí)，從認(rèn)知假設(shè)、類表示與類表示公理與歸類公理等方面介紹了機(jī)器學(xué)習(xí)的公理化的前沿進(jìn)展、主要技術(shù)進(jìn)展及發(fā)展趨勢(shì)。
.jpg)
于劍：機(jī)器學(xué)習(xí)的公理化研究
之后是東南大學(xué)耿新教授進(jìn)行報(bào)告，報(bào)告名為《“標(biāo)記增強(qiáng)”-釋放標(biāo)記空間的威力》。現(xiàn)有的大部分?jǐn)?shù)據(jù)集，示例的標(biāo)記均采用0/1標(biāo)記，即用0表示不相關(guān)，1表示相關(guān)。與之相異，現(xiàn)實(shí)世界中不存在如此清晰的分別，如何給予物體適合的標(biāo)簽成為提升機(jī)器學(xué)習(xí)性能的關(guān)鍵技術(shù)之一。耿教授提出了標(biāo)記增強(qiáng)的概念，介紹了標(biāo)記增強(qiáng)與模糊聚類、知識(shí)蒸餾、標(biāo)記分布的內(nèi)在關(guān)聯(lián)與相關(guān)研究進(jìn)展。最后，耿教授介紹了課題組在標(biāo)記增強(qiáng)解釋方面取得的最新進(jìn)展。標(biāo)記增強(qiáng)能夠通過挖掘出訓(xùn)練樣本中隱含的標(biāo)記重要性差異信息，將邏輯標(biāo)記轉(zhuǎn)化為標(biāo)記分布，從而有效地提升預(yù)測(cè)精度。耿教授指出，將標(biāo)記分布學(xué)習(xí)方法與標(biāo)記增強(qiáng)配合，能夠有效匹配大多數(shù)監(jiān)督學(xué)習(xí)問題。
.jpg)
耿新：標(biāo)記增強(qiáng)”-釋放標(biāo)記空間的威力
論壇的最后，浙江大學(xué)吳飛教授帶來(lái)報(bào)告《數(shù)據(jù)驅(qū)動(dòng)與知識(shí)引導(dǎo)相互結(jié)合智能計(jì)算》。經(jīng)典人工智能理論框架建立在以遞歸可枚舉為核心的演繹邏輯和語(yǔ)義描述基礎(chǔ)方法之上，使得算法難以事先預(yù)設(shè)好智能算法能夠處理的所有情況，因此智能算法在處理不確定性、開放性和動(dòng)態(tài)性等問題時(shí)難以發(fā)揮作用。吳教授首先介紹了數(shù)據(jù)驅(qū)動(dòng)下歸納、知識(shí)指導(dǎo)中演繹、行為探索中頓悟的人工智能新模型和新方法。然后介紹了數(shù)據(jù)驅(qū)動(dòng)與知識(shí)引導(dǎo)在經(jīng)濟(jì)、教育、司法判案、疾病診斷方面的應(yīng)用。吳教授指出，有效利用涌現(xiàn)數(shù)據(jù)、先驗(yàn)知識(shí)和行為交互，推動(dòng)人工智能具備“學(xué)會(huì)學(xué)習(xí)(learning to learn)”能力是未來(lái)人工智能發(fā)展的趨勢(shì)。
.jpg)
吳飛：數(shù)據(jù)驅(qū)動(dòng)與知識(shí)引導(dǎo)相互結(jié)合智能計(jì)算
此次論壇反響熱烈，參會(huì)老師、學(xué)者以及研究生進(jìn)行了積極提問和討論，從中受益匪淺。
來(lái)源：大會(huì)組委會(huì)
