學術報告
我的位置在: 首頁 > 學術報告 > 正文
Detecting Adversarial Examples from Sensitivity Inconsistency of Spatial-Transform Domain
瀏覽次數:日期:2020-12-18編輯:信科院 科研辦

報告人:周建濤 教授,澳門大學科技學院

報告時間:20201222日 上午1000

報告地點:信息科學與工程學院624

 

報告摘要:Deep neural networks (DNNs) have been shown to be vulnerable against adversarial examples (AEs), which are maliciously designed to cause dramatic model output errors. In this work, we find that normal examples (NEs) are insensitive to the fluctuations occurred at the highly-curved region of the decision boundary, while AEs typically designed over one single domain (mostly spatial domain) exhibit exorbitant sensitivity on such fluctuations. By exploiting the sensitivity inconsistency between NEs and AEs, we propose a simple yet effective method for detecting AEs. When comparing with the state-of-the-art algorithms based on Local Intrinsic Dimensionality (LID), Mahalanobis Distance (MD), and Feature Squeezing (FS), we observe improved detection performance and superior generalization capabilities, especially in the challenging cases where the perturbation levels are small. Experimental results on ResNet and VGG validate the superiority of the proposed method.

 

報告人簡介:周建濤博士,澳門大學科技學院電腦與資訊科學系副教授,人工智能與機器人中心代主任,智慧城市物聯網國家重點實驗室城市大數據與智能技術研究室核心成員。曾入選第五批國家青年千人計劃。2009年于香港科技大學電子及計算機工程系獲得博士學位。曾作為富布賴特(Fulbright)青年學者于美國伊利諾大學厄巴納-香檳分校訪學。多年來一直從事多媒體信息取證與安全、圖像處理、計算機視覺、機器學習等領域的研究。在IEEE Trans. Image Processing、IEEE Trans. Signal Processing、IEEE Trans. Information Forensics and Security、IEEE CVPR、ACM Multimedia等國際頂級期刊和會議中發表論文140余篇。自201811月,擔任圖像處理領域的頂級期刊IEEE Trans. Image Processing(影響因子9.34)的副編輯。在圖像處理領域的研究成果受到國際同行的認可,獲得20162020年度IEEE ICME最佳論文獎。


邀請人:

聯系人:

 

欧美成人,亚洲综合精品动漫日韩欧 洮南市| 南部县| 大同县| 额尔古纳市| 东明县| 托克逊县| 海伦市| 永寿县| 公安县| 舞钢市| 徐闻县| 绥芬河市| 灌南县| 芮城县| 名山县| 浦东新区| 二手房| 怀远县| 两当县| 镇赉县| 乐昌市| 澄城县| 琼中| 博乐市| 塘沽区| 绍兴市| 射阳县| 龙里县| 潮安县| 裕民县| 蕉岭县| 新源县| 凤阳县| 乃东县| 大埔县| 姚安县| 万年县| 永登县| 临海市| 瑞金市| 永清县| http://444 http://444 http://444 http://444 http://444 http://444