西安大略大學(xué)坐落在加拿大風(fēng)景秀美的著名城市倫敦,倫敦市是加拿大第十大城市,人口有34萬多人,距加拿大第一大城市多倫多200公里。始建于1878年的西安大略大學(xué)是加拿大最古老的學(xué)校之一,她在學(xué)術(shù)方面已經(jīng)有上百年歷史,并在商科、醫(yī)學(xué)和文科方面取得了輝煌的成就,學(xué)校繼續(xù)保持高速發(fā)展并不斷擴(kuò)展在學(xué)術(shù)方面的研究。
來自西安大略大學(xué)、紐約大學(xué)和字節(jié)跳動的研究者回答了一個重要的問題,即如何從帶有噪聲標(biāo)簽的數(shù)據(jù)集中學(xué)到可靠模型。西安大略大學(xué)
噪聲標(biāo)簽(Noisylabels)隨著深度學(xué)習(xí)研究的深入得到廣泛的關(guān)注,因為在眾多實際落地的場景模型的訓(xùn)練都離不開真實可靠的標(biāo)簽信息。由于人工標(biāo)注誤差(專業(yè)性不足等問題)、數(shù)據(jù)原始噪聲,帶噪聲的數(shù)據(jù)不可避免,清洗數(shù)據(jù)的工作也是更加困難。
在有監(jiān)督的圖像分類問題中,經(jīng)典的cross-entropy(CE)損失函數(shù)是最為廣泛應(yīng)用的函數(shù)之一。當(dāng)數(shù)據(jù)集不存在任何的噪聲標(biāo)簽的時候,它往往能帶來非常不錯的效果。然而,當(dāng)數(shù)據(jù)集中存在噪聲標(biāo)簽的時候,它會導(dǎo)致模型對噪聲標(biāo)簽過擬合,使模型的泛化性變差。本文從對比學(xué)習(xí)的角度研究了如何通過約束圖像的特征來防止模型對噪聲標(biāo)簽的過擬合。
現(xiàn)有的解決噪聲標(biāo)簽的問題有基于robustregularization,labelcorrection,lossreweighting,和robustlossfunctions等。本文的研究動機(jī)源于robustlossfunctions。為了防止模型對噪聲標(biāo)簽過擬合,現(xiàn)有的對噪聲魯棒的損失函數(shù)(meanabsoluteerror(MAE)[1,2],reversecross-entropyloss(RCE)[3]等)在一定程度上解決了噪聲標(biāo)簽過擬合的同時,也存在對數(shù)據(jù)欠擬合的問題[4,5]。在實際應(yīng)用中,這些對噪聲魯棒的損失函數(shù)是結(jié)合CE一起使用的,而CE容易造成對噪聲數(shù)據(jù)的過擬合問題。因此我們思考,能否僅僅通過約束圖像的特征,使整個模型仍然可以用CE訓(xùn)練且不受噪聲標(biāo)簽的影響。韋仕敦大學(xué)
更多留學(xué)干貨內(nèi)容,歡迎繼續(xù)關(guān)注學(xué)在加拿大官網(wǎng)和美國留學(xué)網(wǎng)以及我們的官方微信服務(wù)號。

更多留學(xué)申請規(guī)劃問題歡迎掃碼聯(lián)系小助手免費咨詢獲取干貨資料包
加拿大西安大略大學(xué)利用對比正則化方法應(yīng)對噪音問題
作為“加拿大老四校(old four)”之一的西安大略大學(xué)(University of Western Ontario)2012年已更名韋仕敦大學(xué)(Western University)。是位于加拿大安大略省倫敦的一所世界著名學(xué)府,加拿大頂尖醫(yī)學(xué)博士類公立大學(xué)之一,也被稱為加拿大“小哈佛”。
尤其是近些年來,西安大略大學(xué)實施了一系列旨在擴(kuò)展傳統(tǒng)優(yōu)勢學(xué)科的舉措,以期實現(xiàn)專業(yè)的多元化,例如開設(shè)了健康科學(xué)、軟件工程以及醫(yī)學(xué)研究等等。西安大略大學(xué)在全加大學(xué)中醫(yī)學(xué)博士類排名第3位。在校學(xué)生超過33,000人,其中有來自120多個國家的留學(xué)生約2,200名,全日制教職員工3,200人,提供2,000多個學(xué)士學(xué)位與文憑課程。
課程設(shè)置
西安大略大學(xué)占地467萬平方米,主校區(qū)158萬平方米,校園主要建筑達(dá)到75個,建筑風(fēng)格古典和現(xiàn)代相融合。西安大略大學(xué)下設(shè)3個學(xué)院,12個科系,2個教學(xué)醫(yī)院及3個附屬研究所。大學(xué)由醫(yī)學(xué)院、自然科學(xué)院、商學(xué)院、法學(xué)院、教育學(xué)院、文學(xué)院、理學(xué)院、工程學(xué)院、健康科學(xué)院、信息與傳媒研究學(xué)院、社會科學(xué)學(xué)院音樂學(xué)院、研究生院、休倫學(xué)院、國王學(xué)院和布雷舍爾學(xué)院(女校)等組成。不同院系之間有部分專業(yè)合作,但都采用統(tǒng)一的教學(xué)大綱和標(biāo)準(zhǔn),授予統(tǒng)一的西安大略大學(xué)文憑。
更多留學(xué)干貨內(nèi)容,歡迎關(guān)注學(xué)在加拿大官方微信號或者小助手
微信小助手
微信企業(yè)號
更多留學(xué)申請規(guī)劃問題歡迎掃碼聯(lián)系小助手免費咨詢獲取干貨資料包
>>手機(jī)用戶,可以直接點我進(jìn)行微信在線咨詢
學(xué)在加拿大官方咨詢熱線
400-609-1118
最新資訊 查看更多>>
最新問答 查看更多>>
熱門標(biāo)簽 查看更多>>