來(lái)源：新浪科技 姜軼群

　　人工智能誕生有61年，但它從高冷科技到被吃瓜群眾圍觀也就是這幾年的事。我們可能一直在媒體上看到人工智能做各種各樣的事，文可遣詞造句寫文章，武能扛槍指揮上戰(zhàn)場(chǎng)。所以總有一種聲音在告訴我們：人工智能總有一天什么都能做，到時(shí)候你就是它寄生的一部分，甚至被它控制。但近期的一系列事件在告訴我們一個(gè)相反的結(jié)論：談?wù)撊斯ぶ悄苋〈�人類還為時(shí)尚早，至少有一些問(wèn)題需要解決。

　　人工智能還不夠成熟

　　人工智能有一個(gè)最基本的優(yōu)點(diǎn)，就是能在長(zhǎng)時(shí)間的工作中保持中立和準(zhǔn)確性，這也是很多公司開發(fā)人工智能的一個(gè)主要原因。比如說(shuō)，IBM Watson認(rèn)知計(jì)算平臺(tái)用于醫(yī)療的效果很不錯(cuò)。但不是所有的人工智能都那么靠譜，比如近期用于Facebook消息流的人工智能就捅了簍子。

　　Facebook的趨勢(shì)新聞版塊一直被人指責(zé)有嚴(yán)重的政治偏向，后來(lái)Facebook炒掉了整個(gè)合同工編輯，原來(lái)的編輯工作完全由人工智能代替，但沒(méi)過(guò)幾天，人工智能就闖了大禍：它給趨勢(shì)新聞版塊推送了一條假新聞，宣稱福克斯電視臺(tái)解雇了一名著名主持人，并且稱該主持人是“叛徒”，在Facebook修正錯(cuò)誤之前，可能有數(shù)百萬(wàn)用戶看到了假新聞。

　　Facebook推送的假新聞

　　而后續(xù)更令人驚訝。Facebook為了人工智能炒掉了整個(gè)人類新聞編輯團(tuán)隊(duì)，在假新聞事件發(fā)生之后，有三名原新聞編輯站出來(lái)宣稱，在他們被解雇之前，F(xiàn)acebook力推的新聞算法其實(shí)并不完善，甚至有編輯爆料，原來(lái)他們審核人工智能算法推薦的新聞時(shí)，發(fā)現(xiàn)算法推薦的50篇文章一般只有20篇才是真新聞，而且這20篇新聞來(lái)源也不夠權(quán)威。

　　Facebook“趨勢(shì)話題”（Trending）版塊

　　這個(gè)事例中，人工智能可能沒(méi)有人類編輯對(duì)新聞事件的好惡偏向，但新聞本身的準(zhǔn)確性大大降低，直接影響了新聞推薦的質(zhì)量。編輯們表示，除了工程師不斷提高算法，編輯對(duì)于人工智能系統(tǒng)的訓(xùn)練也是不可或缺的，但這里的人工智能沒(méi)有經(jīng)過(guò)充分學(xué)習(xí)，就被Facebook出于新聞中立性的考慮被急急忙忙推出來(lái)見人了。

　　后來(lái)的事情更是嚴(yán)重：Facebook推出人工智能新聞算法的時(shí)候正好撞上美國(guó)大選，然后爭(zhēng)議不斷的特朗普當(dāng)選總統(tǒng)，各種對(duì)結(jié)果不滿的人開始指責(zé)Facebook：都是你們消息流上的假新聞幫特朗普勝選！這種說(shuō)法可能有甩鍋的嫌疑，但Facebook上流行各種關(guān)于大選的假新聞倒是真的。據(jù)說(shuō)在歐洲一個(gè)叫“馬其頓”的國(guó)家，一些青年靠建立假新聞網(wǎng)站、編假新聞來(lái)掙廣告費(fèi)，而傳播假新聞最快的途徑就是通過(guò)Facebook�，F(xiàn)在，被罵的狗血噴頭的Facebook開始采取各種措施打擊假新聞，效果如何，還尚待時(shí)日證明。

　　這件事情告訴我們，人工智能完全成熟需要時(shí)間打磨。技術(shù)人員需要不斷改善人工智能的算法；更重要的是，人工智能做到模仿人類思維必然有一個(gè)學(xué)習(xí)的過(guò)程，而絕大多數(shù)的學(xué)習(xí)過(guò)程是通過(guò)人類訓(xùn)練而進(jìn)行的。目前各大科技公司開發(fā)人工智能的時(shí)間還不夠長(zhǎng)，相應(yīng)的系統(tǒng)學(xué)習(xí)也沒(méi)有那么成熟，可以說(shuō)是相當(dāng)于幾歲或者十幾歲少兒的水平，讓這樣的系統(tǒng)承擔(dān)成人才能做的工作，可能超出了目前系統(tǒng)的承擔(dān)能力。

　　人工智能也會(huì)被欺騙

　　相比人工智能本身缺陷導(dǎo)致的錯(cuò)誤，這一條目前還不太為人所注意，但仔細(xì)想想，黑客入侵系統(tǒng)對(duì)于人工智能是個(gè)顯而易見的威脅。作為以各種算法為基礎(chǔ)的系統(tǒng)，一定存在被黑客攻擊的可能。

　　黑客目前可能最常用的攻擊手段就是欺騙人工智能。近期的各種電信詐騙告訴我們?nèi)祟惐旧硪膊皇菚r(shí)刻都保持聰明，對(duì)于缺乏完全思維能力的人工智能更是如此。在這方面，黑客把欺騙手段可以玩出花樣。

　　比如說(shuō)，美國(guó)的研究人員可以通過(guò)生成的3D模型欺騙人臉識(shí)別系統(tǒng)。這些研究人員首先在社交網(wǎng)站上收集人臉照片，通過(guò)這些照片制作人臉3D模型，并加入面部表情或者眨眼之類的小動(dòng)作，至于皺紋之類的面部細(xì)節(jié)可以偽造，這樣生成的人臉3D模型在55%到85%的測(cè)試時(shí)間中可以騙過(guò)五分之四的人臉識(shí)別系統(tǒng)。

　　研究人員通過(guò)照片制作人臉3D模型過(guò)程

　　除了欺騙人臉識(shí)別系統(tǒng)，黑客還有可能攻擊自動(dòng)駕駛系統(tǒng)。比如曾經(jīng)就有黑客利用特斯拉Autopilot系統(tǒng)漏洞，成功“催眠”特斯拉。

　　研究人員使用“噪音進(jìn)擊”方式干擾特斯拉

　　如果這個(gè)系統(tǒng)本身就不夠成熟，那就搞笑了。曾經(jīng)有記者測(cè)試一個(gè)剛起步的人工智能投資機(jī)器人，結(jié)果這個(gè)機(jī)器人為記者虛構(gòu)的創(chuàng)業(yè)項(xiàng)目要扔1400萬(wàn)美元。

　　人工智能要給記者虛構(gòu)的創(chuàng)業(yè)公司“投資”1400萬(wàn)美元

　　所以說(shuō)，目前再厲害的人工智能，還是有被欺騙的可能，至少我們不能將它作為唯一的依靠來(lái)判斷事情或者做決定。

　　人工智能還不能明辨是非

　　談到“明辨是非”，對(duì)于目前的人工智能來(lái)說(shuō)可能要求太高，畢竟連人類都不能做到永遠(yuǎn)明辨是非。有人甚至害怕，如果讓人工智能明辨是非，就意味著人工智能有了自己的判斷和好惡，這樣它就不能完全聽人類的話，甚至有背叛人類的可能。

　　其實(shí)沒(méi)那么玄。之所以讓人工智能學(xué)會(huì)明辨是非，是讓它能夠判斷出人類讓它做的事情本身是對(duì)的還是錯(cuò)的。一個(gè)不會(huì)判斷是非的人工智能，可能會(huì)變成某個(gè)居心不良的人的殺人工具，會(huì)無(wú)條件執(zhí)行惡人的命令；即使問(wèn)題沒(méi)那么嚴(yán)重，也有可能是這么一種情況：一個(gè)記性不好的老人讓人工智能機(jī)器人給花澆水，但實(shí)際上機(jī)器人剛剛給花澆過(guò)水了。

　　電影《終結(jié)者》中的機(jī)器人

　　讓人工智能判斷命令背后的風(fēng)險(xiǎn)，并且避免風(fēng)險(xiǎn)，是人工智能真正變成“智能”的重要一步。目前其實(shí)有人注意到這一點(diǎn)，他們?cè)噲D開發(fā)能讓人工智能做出簡(jiǎn)單判斷的控制技術(shù)，還有人提出要給人工智能教道德和法律。但目前，相關(guān)的技術(shù)還在開發(fā)中，至于教授道德法律，科技巨頭為此專門召開會(huì)議，試圖制定人工智能的道德規(guī)則；而歐洲議會(huì)也推進(jìn)關(guān)于自動(dòng)駕駛和人工智能的相關(guān)法案，明確發(fā)生相關(guān)事故后的責(zé)任，并且要求人工智能機(jī)器人要加裝“自毀按鈕”。但這些努力目前都只是個(gè)開始。

　　美國(guó)五大科技巨頭開會(huì)制定人工智能道德標(biāo)準(zhǔn)

　　美國(guó)科技雜志《連線》前主編凱文·凱利曾經(jīng)在他的書中寫到，人類對(duì)人工智能的心態(tài)有7個(gè)階段。目前我們對(duì)人工智能的心態(tài)可能是這樣的：人工智能會(huì)做很多事情，但我做的它不一定會(huì)，或者它做這些常常出問(wèn)題，需要我處理，又或者是我需要訓(xùn)練它學(xué)習(xí)新任務(wù)。這三個(gè)階段再進(jìn)一步，就是人類能放心將任務(wù)完全交給它的時(shí)候。在筆者看來(lái)，跨越前文所述的三個(gè)問(wèn)題，人工智能才能完全承擔(dān)人類給它的工作。