8月27日，第四屆互聯(lián)網(wǎng)安全領(lǐng)袖峰會(huì)(Cyber Security Summit，簡(jiǎn)稱CSS)在北京昆泰酒店（望京）召開。當(dāng)日下午，騰訊安全玄武實(shí)驗(yàn)室負(fù)責(zé)人于旸，Security Research Labs首席科學(xué)家Karsten Nohl，汽車黑客開山鼻祖Charlie Miller，知道創(chuàng)宇CEO趙偉及KEEN公司CEO、 GeekPwn大賽發(fā)起和創(chuàng)辦人王琦（大牛蛙）進(jìn)行了一場(chǎng)名為“以極客之名，論未來安全之道”的尖峰對(duì)話，圍繞當(dāng)下數(shù)字時(shí)代下，移動(dòng)安全、自動(dòng)駕駛、AI等領(lǐng)域和安全人才培養(yǎng)等問題展開深入研討。

　　針對(duì)時(shí)下AI技術(shù)的廣泛應(yīng)用，王琦表示，AI技術(shù)并不像媒體渲染或公眾想像的那樣“完美”。根據(jù)過去的報(bào)告顯示，AI的開源代碼中大致每 1000 行就含有一個(gè)安全漏洞。作為全球最大關(guān)注智能生活的安全極客大賽，GeekPwn一直致力于尋找AI潛藏的風(fēng)險(xiǎn)并不斷幫助其完善，協(xié)助AI進(jìn)行安全性的預(yù)演分析，助力AI安全健康成長(zhǎng)。

　　不僅如此，GeekPwn Lab 總監(jiān)王海兵在 28 日舉行的 CSS 人工智能安全分論壇上，進(jìn)行了主題為《從對(duì)抗樣本的視角看人工智能安全》的分享。王海兵指出，對(duì)抗樣本研究任重道遠(yuǎn)，同時(shí)，在AI和安全界之間也存在溝通鴻溝問題，不過GeekPwn(極棒)黑客大賽正在成為二者之間的溝通橋梁。

　　防患于未然 GeekPwn鼓勵(lì)安全極客與AI跨界融合

　　一項(xiàng)新興技術(shù)的興起，必然會(huì)存在潛在的短板，AI亦是如此。作為一個(gè)整體，AI應(yīng)用系統(tǒng)任何一個(gè)環(huán)節(jié)出現(xiàn)漏洞，都有可能出現(xiàn)安全問題。小到智能門鎖、智能音箱、智能手機(jī)，大到智能家居、智能汽車，我們司空見慣的AI產(chǎn)品都可能存在安全隱患。隱私泄露，威脅財(cái)產(chǎn)甚至人身安全，智能產(chǎn)品的生產(chǎn)企業(yè)或許還沒有足夠的重視安全問題，低級(jí)漏洞屢見不鮮。

　　值得慶幸的是，及時(shí)發(fā)現(xiàn)與修復(fù)還為時(shí)未晚，而黑客這一群體，正是破解難題的關(guān)鍵。在下午的尖峰論壇上，王琦說：“不論AI還是IoT領(lǐng)域，信息技術(shù)發(fā)展的速度要高于安全技術(shù)的發(fā)展。我們經(jīng)常在用黑客思維考慮的話，擔(dān)心這里會(huì)不會(huì)出問題，那里會(huì)不會(huì)有問題。漏洞不是因?yàn)楹诳筒糯嬖�，恰恰是因�(yàn)楹诳桶l(fā)現(xiàn)才消滅的�！�

　　在人才挖掘方面，GeekPwn鼓勵(lì)極客們勇于探索新鮮事物，投入AI安全研究并且收獲肯定和榮譽(yù)。對(duì)于AI這一尚未完全成熟的領(lǐng)域，安全極客可以憑借其敏銳的洞察力與不放棄的破題精神將其完善，而AI領(lǐng)域現(xiàn)在關(guān)注安全的不多，過去做安全的人對(duì)AI又知之甚少，GeekPwn正在做的就是為黑客提供一個(gè)展示自己的平臺(tái)，讓兩個(gè)領(lǐng)域的人才進(jìn)行融合，找到未來AI與專業(yè)安全的結(jié)合點(diǎn)，讓更多人用技術(shù)獲得世界的認(rèn)可。

　　王琦幽默地說：““在座的 Charlie Miller（下圖）被喻為‘黑掉汽車的第一人’，Karsten NohI 很早就開始專注于移動(dòng)安全研究，未能到現(xiàn)場(chǎng)的 Bruce Schneier 更是密碼學(xué)專家、多本密碼學(xué)著作的知名作者。我們非常鼓勵(lì)GeekPwn的選手要去做各種領(lǐng)域的“第一人”，這并不是為了炫技，王琦繼而解釋道，我們要比那些可能干壞事的人更早發(fā)現(xiàn)漏洞，更早消滅問題。

　　聚焦對(duì)抗樣本 GeekPwn愿做安全界與AI界的橋梁

　　提到AI，就不得不提到“對(duì)抗樣本”。所謂對(duì)抗樣本是指在數(shù)據(jù)集中通過故意添加細(xì)微的干擾所形成的輸入樣本，導(dǎo)致模型以高置信度給出一個(gè)錯(cuò)誤的輸出。CSS2018大會(huì)的第二天，極棒實(shí)驗(yàn)室總監(jiān)、AI 安全專家王海兵在人工智能分論壇上，就以對(duì)抗樣本的視角，對(duì)未來AI安全做出了大膽的預(yù)測(cè)和詳盡的闡釋。

　　人工智能與傳統(tǒng)技術(shù)面面臨著相似的安全問題。王海兵解釋說，“人工智能安全具有豐富的層次性，從應(yīng)用到算法，而任何一個(gè)環(huán)節(jié)出現(xiàn)漏洞的都會(huì)造成安全問題。比如極棒過往比賽中出現(xiàn)的被攻破的人臉識(shí)別門禁，這種方法雖然很傳統(tǒng)，但是仍然具有破壞性。庫(kù)，框架，云服務(wù)，這些AI的基礎(chǔ)系統(tǒng)的漏洞也是AI安全的一大問題。”

　　而作為新技術(shù)，人工智能也存在著其特有的安全問題，即對(duì)抗樣本。對(duì)抗樣本可以是一張圖片，一段語(yǔ)音甚至是一句話，其本身的多樣性會(huì)對(duì)人工智能造成識(shí)別干擾，比如對(duì)于惡意軟件的識(shí)別、對(duì)自動(dòng)鑒黃系統(tǒng)的識(shí)別、對(duì)交通指示牌的識(shí)別。

　　除此之外，對(duì)抗樣本攻擊威脅模型還具有定向與非定向，數(shù)字攻擊與物理攻擊，擾動(dòng)范圍與攻擊目標(biāo)等多維度特點(diǎn)。目前對(duì)于對(duì)抗樣本干擾的防守暫無令人滿意的解決方案，這也是目前AI安全最快速發(fā)展的研究領(lǐng)域。GeekPwn率先涉足這一領(lǐng)域，于2018年GeekPwn美國(guó)站上全球首創(chuàng)對(duì)抗樣本的CTF：CAAD CTF，集結(jié)了六支來自企業(yè)與學(xué)界的世界級(jí)頂級(jí)戰(zhàn)隊(duì)，在拉斯維加斯上演了一場(chǎng)精彩的AI攻防戰(zhàn)。

　　GeekPwn始終走在對(duì)抗樣本研究的最前端，致力于通過不同形式的比賽，發(fā)掘出更多的安全人才，探索出防御對(duì)抗樣本，提高AI魯棒性的方法�！白鳛槿�球首個(gè)探索人工智能與專業(yè)安全的前沿平臺(tái)，極棒愿繼續(xù)擔(dān)當(dāng)安全屆與AI屆的橋梁，讓更多的安全極客加入進(jìn)來，共同推動(dòng)AI健康發(fā)展。”王海兵補(bǔ)充道。

　　極棒實(shí)驗(yàn)室總監(jiān)、AI 安全專家王海兵

　　在探索AI安全的歷程中，GeekPwn曾通過軟件漏洞攻破人臉識(shí)別門禁，證明了人工智能在軟硬件層面可能存在安全問題；我們還證明了存在利用 AI 做壞事的可能，2017 年有選手通過 AI 模擬人類筆跡，并成功騙過了專業(yè)筆跡鑒定師；當(dāng)然還有 AI 對(duì)抗 AI 的情況，像是破解谷歌驗(yàn)證碼、多款聲紋識(shí)別系統(tǒng)等等。

　　GeekPwn2018嘉年華將于10月24日-25日在中國(guó)上海舉辦。屆時(shí)，黑客屋挑戰(zhàn)賽、數(shù)據(jù)追蹤挑戰(zhàn)賽、機(jī)器特工挑戰(zhàn)賽、基于漏洞攻破挑戰(zhàn)賽、非基于漏洞攻破挑戰(zhàn)賽、GAN掉馬賽克挑戰(zhàn)賽、RFID遠(yuǎn)距離讀寫挑戰(zhàn)賽等全新賽制精彩上演，以最前沿的議題，預(yù)演AI領(lǐng)域風(fēng)險(xiǎn)。