※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2019-12-17 17:09:12
看板 Gossiping
作者 標題 [新聞] 鎖定高解析串流分析，清大開源CNN架構Har
時間 Tue Dec 17 14:50:29 2019
1.媒體來源:
ITHOME
2.記者署名
文/翁芊儒
3.完整新聞標題:
鎖定高解析串流分析，清大開源CNN架構HarDNet，影像分類速度比常見ResNet-50架構快
30%
4.完整新聞內文:
自駕車上路的關鍵是，得先快速、準確分辨出路上人、車和物體，能夠更快更準確地進行
影片的圖像語義分割 (Semantic Segmentation)，決定了操控AI安全駕駛的反應能力，如
何單靠車上AI主機提供到毫秒級辨識推論，是自駕車AI的一大挑戰。清大一個研究團隊，
最近開源了自己改良的新CNN架構，找到了能加快推論速度的關鍵作法。
影片的圖像語義分割 (Semantic Segmentation)，決定了操控AI安全駕駛的反應能力，如
何單靠車上AI主機提供到毫秒級辨識推論，是自駕車AI的一大挑戰。清大一個研究團隊，
最近開源了自己改良的新CNN架構，找到了能加快推論速度的關鍵作法。
最近清大資工系教授林永隆帶領的研究團隊，以DenseNet為基礎，開發了一個低記憶體資
料流（Low Memory Traffic）的CNN架構，稱為HarDNet。研究團隊指出，運用該架構訓練
的模型進行影像分類任務，推論時間比常用的ResNet-50架構縮短了30％，若是進行物件
偵測與識別的任務，則比SSD-VGG縮短了45%。而這個架構在今年10月底的ICCV會議發表，
且已在GitHub開源。
料流（Low Memory Traffic）的CNN架構，稱為HarDNet。研究團隊指出，運用該架構訓練
的模型進行影像分類任務，推論時間比常用的ResNet-50架構縮短了30％，若是進行物件
偵測與識別的任務，則比SSD-VGG縮短了45%。而這個架構在今年10月底的ICCV會議發表，
且已在GitHub開源。
清大研究團隊成員阮郁善表示，Memory Traffic是指資料進出記憶體的次數。以DenseNet
來說，會造成大量資料進出記憶體，是因為該架構中每一層都有捷徑（Shortcut）的連結
，這也意味著，每一層擷取的特徵值（Feature），都會保留到最後一層來運算，而且，
保留下來的特徵值也會到下一層擷取更細節的特徵值，如此一來，造成資料搬運次數多，
就會耗費許多運算時間。
來說，會造成大量資料進出記憶體，是因為該架構中每一層都有捷徑（Shortcut）的連結
，這也意味著，每一層擷取的特徵值（Feature），都會保留到最後一層來運算，而且，
保留下來的特徵值也會到下一層擷取更細節的特徵值，如此一來，造成資料搬運次數多，
就會耗費許多運算時間。
因此，研究團隊減少了DenseNet架構中，層數（layer）之間的捷徑，來降低資料搬運次
數、加快運算時間，不過，捷徑減少後，由於擷取的特徵值變少，模型準確率也會下降。
於是，研究團隊也改變了DenseNet每一層的權重數，也就是針對捷徑連結更多的layer，
來增加運算量、擷取更多的特徵值，藉此維持模型準確率。而這個改良版的DenseNet模型
，也被重新命名為HarDNet。
數、加快運算時間，不過，捷徑減少後，由於擷取的特徵值變少，模型準確率也會下降。
於是，研究團隊也改變了DenseNet每一層的權重數，也就是針對捷徑連結更多的layer，
來增加運算量、擷取更多的特徵值，藉此維持模型準確率。而這個改良版的DenseNet模型
，也被重新命名為HarDNet。
研究團隊也將U-HarDNet70模型運用在高解析度（1024*2048）的即時影像分割工作上，來
驗證該架構的高推論速度。比如在Nvidia GTX 1080ti的環境下，能達到53 fps（Frame
per second，每秒幀數）的推論速度，且達到76%的準確率。阮郁善表示，儘管還有可以
達到更高準確率的架構，但如果將運算速度也納入考量，「U-HarDNet70的綜合表現更好
。」
達到更高準確率的架構，但如果將運算速度也納入考量，「U-HarDNet70的綜合表現更好
。」
研究團隊也將HarDNet與一般常見CNN架構相比較，HarDNet可以在低錯誤率、高運算量的
情況下，仍然保持快速的推論速度。阮郁善表示，「其他研究者可能想追求，運算量不要
太大，模型推論可以跑更快，但我們是點出來說，一直追求較低的運算量不一定跑比較快
，就像HarDNet的運算量高，但是因為資料搬運次數較少，所以推論速度比DenseNet快了
三成以上。」
情況下，仍然保持快速的推論速度。阮郁善表示，「其他研究者可能想追求，運算量不要
太大，模型推論可以跑更快，但我們是點出來說，一直追求較低的運算量不一定跑比較快
，就像HarDNet的運算量高，但是因為資料搬運次數較少，所以推論速度比DenseNet快了
三成以上。」
因此，HarDNet適合如高解析度、即時影像分析等運算量大的應用，如自動駕駛、醫療診
斷、安全識別、人機互動等。 而該架構也已經在GitHub上開源。
5.完整新聞連結 (或短網址):
https://www.ithome.com.tw/news/134809
鎖定高解析串流分析，清大開源CNN架構HarDNet，影像分類速度比常見ResNet-50架構快30% | iThome
![[圖]]()
清大研究團隊改良了DenseNet架構，減少了架構中的捷徑連結，來降低記憶體搬運次數，藉此達到提升運算速度的效果，且同時維持高辨識準確率與高運算量。 ...
![[圖]](https://s4.itho.me/sites/default/files/field/image/79439282_2944410798925857_4258959832083595264_n.jpg)
6.備註:
不愧是清大
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.136.235.138 (臺灣)
※ 文章代碼(AID): #1T-7gtDR (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1576565431.A.35B.html
推 : 川普不喜歡CNN 清大掰掰1F 123.51.148.40 台灣 12/17 14:52
→ : 可點免費空間的九宮格嗎 求幫免費仔2F 36.224.134.196 台灣 12/17 14:52
推 : 先預言對岸中國拿去改再吹噓自己技術3F 220.134.89.190 台灣 12/17 14:52
推 : 中國在dick learning早就屌打台灣了4F 42.72.80.70 台灣 12/17 14:54
推 : 跟我的理論差不多5F 27.242.126.77 台灣 12/17 14:55
推 : 太神啦6F 42.73.46.189 台灣 12/17 15:30
推 : 幹我也快做好了結果被搶先發表了7F 101.136.165.153 台灣 12/17 15:56
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 225
回列表(←)
分享