阿里發(fā)布自動(dòng)化AI對抗平臺 用AI“體檢”AI
Time:2020-12-14DoNews12月11日消息(記者 翟繼茹)11日,阿里圖靈實(shí)驗室整理歸納了學(xué)界針對AI模型提出的32種攻擊方法,以此為基礎搭建了一個(gè)自動(dòng)化AI對抗攻擊平臺CAA,幫助檢測AI系統存在的漏洞。
據介紹,經(jīng)CAA“體檢”后,AI專(zhuān)家可針對被檢測AI的薄弱地帶提出建議,幫助AI魯棒性(穩定性)檢測,以此增強AI系統。近日,該研究成果被人工智能頂會(huì )I2021接收。
相比業(yè)界此前提出的其他攻擊工具箱,阿里圖靈實(shí)驗室研發(fā)的自動(dòng)化對抗攻擊平臺CAA首度實(shí)現了對抗攻擊的“工具化”。它讓AI應用的使用者即使不具備任何專(zhuān)業(yè)領(lǐng)域知識的情況下,也可以進(jìn)行AI模型的對抗攻擊和魯棒性測試。
此外,CAA還可預先評估待檢測AI的特性,通過(guò)自動(dòng)化搜索技術(shù)來(lái)合成多個(gè)攻擊算法的組合,提升了現有模型攻擊方法的性能和效率。阿里專(zhuān)家通過(guò)實(shí)驗表明,CAA超越了新提出的攻擊方法,是可有效評估當前AI系統的“攻擊”。
阿里圖靈實(shí)驗室算法專(zhuān)家簫瘋表示,阿里提出將智能技術(shù)引入到對抗攻擊中,使得所有攻擊細節和參數作為一個(gè)黑箱,而攻擊者只需要提供目標模型和數據,算法就會(huì )自動(dòng)選擇優(yōu)的攻擊組合和參數。(完)
佳木斯網(wǎng)站建設,佳木斯手機網(wǎng)站,佳木斯微信,佳木斯小程序,佳木斯微信公眾平臺代運營(yíng),佳木斯網(wǎng)云信息科技有限公司