阿里發(fā)布自動化AI對抗平臺 用AI“體檢”AI
Time:2020-12-14阿里發(fā)布自動化AI對抗平臺 用AI“體檢”AI
Time:2020-12-14DoNews12月11日消息（記者 翟繼茹）11日，阿里圖靈實(shí)驗室整理歸納了學(xué)界針對AI模型提出的32種攻擊方法，以此為基礎(chǔ)搭建了一個自動化AI對抗攻擊平臺CAA，幫助檢測AI系統(tǒng)存在的漏洞。
據(jù)介紹，經(jīng)CAA“體檢”后，AI專家可針對被檢測AI的薄弱地帶提出建議，幫助AI魯棒性（穩(wěn)定性）檢測，以此增強(qiáng)AI系統(tǒng)。近日，該研究成果被人工智能頂會I2021接收。
相比業(yè)界此前提出的其他攻擊工具箱，阿里圖靈實(shí)驗室研發(fā)的自動化對抗攻擊平臺CAA首度實(shí)現(xiàn)了對抗攻擊的“工具化”。它讓AI應(yīng)用的使用者即使不具備任何專業(yè)領(lǐng)域知識的情況下，也可以進(jìn)行AI模型的對抗攻擊和魯棒性測試。
此外，CAA還可預(yù)先評估待檢測AI的特性，通過自動化搜索技術(shù)來合成多個攻擊算法的組合，提升了現(xiàn)有模型攻擊方法的性能和效率。阿里專家通過實(shí)驗表明，CAA超越了新提出的攻擊方法，是可有效評估當(dāng)前AI系統(tǒng)的“攻擊”。
阿里圖靈實(shí)驗室算法專家簫瘋表示，阿里提出將智能技術(shù)引入到對抗攻擊中，使得所有攻擊細(xì)節(jié)和參數(shù)作為一個黑箱，而攻擊者只需要提供目標(biāo)模型和數(shù)據(jù)，算法就會自動選擇優(yōu)的攻擊組合和參數(shù)。（完）
佳木斯網(wǎng)站建設(shè),佳木斯手機(jī)網(wǎng)站,佳木斯微信,佳木斯小程序,佳木斯微信公眾平臺代運(yùn)營，佳木斯網(wǎng)云信息科技有限公司