新華社堪培拉6月30日電（記者白旭 姜晨怡）澳大利亞聯(lián)邦科學(xué)與工業(yè)研究組織（CSIRO）日前發(fā)布消息說,，該機(jī)構(gòu)的一個(gè)科研團(tuán)隊(duì)開發(fā)了一套人工智能新算法，可幫助抵御“機(jī)器學(xué)習(xí)”可能遇到的干擾,。

　　“機(jī)器學(xué)習(xí)”可以在大數(shù)據(jù)訓(xùn)練中“學(xué)習(xí)”正確的工作方法,，但它也容易受到惡意干擾。攻擊者一般通過輸入惡意數(shù)據(jù)來欺騙“機(jī)器學(xué)習(xí)”模型,，導(dǎo)致其出現(xiàn)故障,。開發(fā)新算法的Data61機(jī)器學(xué)習(xí)小組負(fù)責(zé)人理查德·諾克博士舉例說,，在進(jìn)行圖像識(shí)別時(shí)，攻擊者通過在圖像上添加一層“干擾波”,，可以欺騙“機(jī)器學(xué)習(xí)”模型進(jìn)行錯(cuò)誤的圖像分類,。

　　“我們的新算法通過一種類似疫苗接種的思路來抗干擾?！敝Z克博士說,，他們的新算法可對“機(jī)器學(xué)習(xí)”模型進(jìn)行防干擾訓(xùn)練，比如在圖片識(shí)別領(lǐng)域,，對圖片集合進(jìn)行小的修改或使其失真,，可激發(fā)出“機(jī)器學(xué)習(xí)”模型越來越強(qiáng)的抗干擾能力，并形成相關(guān)的自我抗干擾訓(xùn)練模型,。當(dāng)經(jīng)過小規(guī)模的失真訓(xùn)練后，最終的抗干擾訓(xùn)練模型將更加強(qiáng)大,，在干擾真的到來時(shí),，“機(jī)器學(xué)習(xí)”模型將具備“免疫”功能。

【糾錯(cuò)】

責(zé)任編輯： 焦鵬