国产精品久久精品牛牛影视-国产精品久久精品视-国产精品久久九九-国产精品久久久-国产精品久久久99

來源：nature

芯片采購網(wǎng)專注于整合國內(nèi)外授權(quán)IC代理商現(xiàn)貨資源，芯片庫存實時查詢，行業(yè)價格合理，采購方便IC芯片，國內(nèi)專業(yè)芯片采購平臺。

編譯:張大筆茹、小七

假設(shè)一輛自動駕駛汽車在看到停車標(biāo)志時沒有減速，而是加速到繁忙的十字路口，導(dǎo)致交通事故。事故報告顯示，停車標(biāo)志的表面粘有四個小矩形標(biāo)志。這表明一些小的干擾可以愚弄車載人工智能（AI），誤讀停止一詞為限速45。

此類事件尚未發(fā)生，但人為干擾可能會影響AI這是非�，F(xiàn)實的。研究人員已經(jīng)展示了如何通過粘貼紙作弊AI系統(tǒng)誤讀停車標(biāo)志，或通過在眼鏡或帽子上粘貼印刷圖案來欺騙人臉識別系統(tǒng)，或通過在音頻中插入白噪聲來產(chǎn)生錯誤的判斷。

這只是一些攻擊AI領(lǐng)先的模式識別技術(shù)-深度神經(jīng)網(wǎng)絡(luò)（DNN）的小示例。事實證明，這些方法在正確分類各種輸入(包括圖像、語音和相關(guān)消費者偏好的數(shù)據(jù))方面非常成功。從自動電話系統(tǒng)到流媒體服務(wù)Netflix這些都是日常生活的一部分。人類難以察覺的輸入微小變化會混淆周圍最好的神經(jīng)網(wǎng)絡(luò)。

加利福尼亞大學(xué)伯克利計算機科學(xué)博士生Dan Hendrycks說在這種不完美的技術(shù)中，這些問題比特殊的怪癖更麻煩。和許多科學(xué)家一樣，他一開始也認(rèn)為這是DNN內(nèi)在缺陷:任務(wù)可以在訓(xùn)練領(lǐng)域出色完成，但一旦進入陌生領(lǐng)域，由于各種原因會失敗。

這可能會導(dǎo)致嚴(yán)重的問題。從實驗室到現(xiàn)實世界，從自動駕駛汽車到犯罪測量和疾病診斷，越來越多的深度學(xué)習(xí)系統(tǒng)。然而，今年的一份研究報告稱，惡意添加到醫(yī)學(xué)掃描中的圖像可能會使DNN誤診癌癥。另一方面，黑客可以利用這些弱點在網(wǎng)上黑掉一個AI運行自己的代碼。

在尋找問題根源的過程中，研究人員發(fā)現(xiàn)了許多問題DNN失敗的原因。位于加州山景城的加州Google的AI工程師Franois Chollet認(rèn)為，“DNN沒有解決內(nèi)在缺陷的辦法。為了克服這些缺陷，研究人員需要開發(fā)額外的功能來增強模式匹配DNN，例如，使AI能夠自己探索世界，自己寫代碼，保留記憶。一些專家認(rèn)為，這將是未來十年AI研究方向。

現(xiàn)實檢驗

谷歌于2011年開發(fā)Torex代理一個可以識別YouTube視頻中的貓系統(tǒng)很快就出現(xiàn)了一波基于它的系統(tǒng)DNN分類系統(tǒng)。加州舊金山Uber AI Labs懷俄明大學(xué)拉拉米分校的高級研究經(jīng)理杰夫·克勞恩（Jeff Clune）說，不知就里的人都在說，哇，這太神奇了，電腦終于能理解世界了。

但只有AI研究人員知道DNN事實上，我不了解這個世界。它們只是由許多數(shù)字神經(jīng)元組成的松散模型，分布在許多上下相互連接的各層網(wǎng)絡(luò)中。

其思想是，原始輸入到底部的特征（如圖像中的像素）會觸發(fā)一些神經(jīng)元，然后根據(jù)簡單的數(shù)學(xué)規(guī)則將信號傳輸?shù)缴弦粚拥纳窠?jīng)元，每次調(diào)整神經(jīng)元的連接模式并進行訓(xùn)練DNN該網(wǎng)絡(luò)涉及將其暴露在大量的例子中，以便最終提供所需的答案。例如，即使是DNN我以前從未見過這張照片，我總能把獅子的照片輸出給獅子。

2013年，Google研究員Christian Szegedy與同事一起發(fā)布了一份名為神經(jīng)網(wǎng)絡(luò)的有趣特征的預(yù)印本，這是對神經(jīng)網(wǎng)絡(luò)實際應(yīng)用的第一次檢驗。以獅子的圖像為例，即使改變了一些像素，比如在圖像中添加圖書館背景，DNN它可以確認(rèn)它看到了不同的內(nèi)容，但然可以識別圖中的獅子。小組稱篡改圖像為對抗樣本。