人工智能離不開(kāi)人腦控制 避免數(shù)據(jù)陷阱還要靠人的經(jīng)驗(yàn)和智慧

兵以詐立。智能時(shí)代，顛覆性技術(shù)不斷涌現(xiàn)，戰(zhàn)爭(zhēng)欺騙手段和形式亦不斷出新。“如果掌握你的數(shù)據(jù)，我就能創(chuàng)造出各種方法欺騙你的人工智能系統(tǒng)。”研究實(shí)驗(yàn)表明，智能化戰(zhàn)爭(zhēng)中一旦一方獲得對(duì)手的人工智能訓(xùn)練數(shù)據(jù)集，就能夠找到其弱點(diǎn)和盲區(qū)并實(shí)施欺騙，人工智能必須警惕數(shù)據(jù)陷阱。

目前來(lái)看，人工智能分析處理數(shù)據(jù)的速度遠(yuǎn)超人類(lèi)分析師，并且能夠找出人腦難以發(fā)現(xiàn)的行為模式和規(guī)律，但是也會(huì)犯下人腦不會(huì)犯的錯(cuò)誤。原因在于，機(jī)器學(xué)習(xí)算法必須依靠大量數(shù)據(jù)進(jìn)行訓(xùn)練，數(shù)據(jù)之于人工智能就如同血液之于人類(lèi)，共享數(shù)據(jù)比設(shè)計(jì)算法更難。如果數(shù)據(jù)集過(guò)小、數(shù)據(jù)不準(zhǔn)或是被對(duì)手惡意篡改，那么機(jī)器學(xué)習(xí)效果就會(huì)大打折扣，甚至被誤導(dǎo)出現(xiàn)誤判。尤其在國(guó)家安全和軍事領(lǐng)域，有害數(shù)據(jù)會(huì)造成嚴(yán)重后果。一旦人工智能的訓(xùn)練數(shù)據(jù)集被對(duì)手掌握，對(duì)手就會(huì)設(shè)計(jì)數(shù)據(jù)陷阱、實(shí)施欺騙，提供假數(shù)據(jù)并誘導(dǎo)人工智能學(xué)習(xí)錯(cuò)誤數(shù)據(jù)。更嚴(yán)重的是，由于機(jī)器學(xué)習(xí)算法的內(nèi)在工作機(jī)理晦澀難懂，人們通常并不清楚人工智能為何會(huì)出錯(cuò)，特別是在沒(méi)有發(fā)生災(zāi)難性后果的情況下，甚至難以察覺(jué)人工智能出錯(cuò)，對(duì)人工智能陷入數(shù)據(jù)陷阱茫然不知。

那么，應(yīng)如何避開(kāi)數(shù)據(jù)陷阱呢?首先，需要人腦干預(yù)。只有人具備給數(shù)據(jù)分類(lèi)打標(biāo)簽的能力，因此不能簡(jiǎn)單地把數(shù)據(jù)丟給機(jī)器算法，寄希望于人工智能解決所有問(wèn)題而無(wú)須人腦干預(yù)。如果只提供大量數(shù)據(jù)而缺乏能夠辨別數(shù)據(jù)的“聰明人腦”，那么人工智能只能提供機(jī)械的答案，而非人們需要的正確答案。人腦干預(yù)不僅能夠確保人工智能獲得正確的數(shù)據(jù)，還能夠檢查其是否在學(xué)習(xí)正確的數(shù)據(jù)。其次，打造跨領(lǐng)域團(tuán)隊(duì)。能夠避開(kāi)數(shù)據(jù)陷阱的“聰明人腦”必須來(lái)自跨領(lǐng)域團(tuán)隊(duì)，計(jì)算機(jī)專(zhuān)家、程序員、大數(shù)據(jù)專(zhuān)家和人工智能專(zhuān)家必須與相關(guān)領(lǐng)域經(jīng)驗(yàn)豐富的專(zhuān)業(yè)人員密切合作。今后，人工智能不斷發(fā)展成熟后將可能直接為作戰(zhàn)人員提供實(shí)時(shí)情報(bào)等，這就需要作戰(zhàn)人員不斷為“聰明人腦”團(tuán)隊(duì)提供反饋，以便及時(shí)更新和修正數(shù)據(jù)。再次，進(jìn)行多源數(shù)據(jù)互查。使用一種傳感器偵察目標(biāo)很容易被對(duì)手蒙蔽，因此要采用視覺(jué)、雷達(dá)和紅外等多種傳感器偵測(cè)同一目標(biāo)，將不同來(lái)源的數(shù)據(jù)進(jìn)行對(duì)比核驗(yàn)，才能夠辨別真?zhèn)巍l(fā)現(xiàn)隱藏的騙局。再者，給數(shù)據(jù)分類(lèi)打標(biāo)簽。當(dāng)前，即使高級(jí)的人工智能也會(huì)犯下荒誕的低級(jí)錯(cuò)誤，甚至?xí)e(cuò)把牙刷認(rèn)作棒球桿。因此不能給機(jī)器學(xué)習(xí)提供未經(jīng)加工的原始數(shù)據(jù)，尤其在訓(xùn)練初期更是如此，應(yīng)該為機(jī)器算法提供正確分類(lèi)、打了標(biāo)簽的真實(shí)數(shù)據(jù)，方能檢驗(yàn)人工智能的結(jié)論是否正確，確保人工智能輔助決策準(zhǔn)確、高效。最后，采取對(duì)抗式學(xué)習(xí)。組建智能藍(lán)軍，研發(fā)人工智能對(duì)手，讓互為對(duì)手、彼此對(duì)抗的人工智能展開(kāi)互搏，在斗智過(guò)程中進(jìn)行對(duì)抗式學(xué)習(xí)，在對(duì)抗式學(xué)習(xí)中提高識(shí)別數(shù)據(jù)陷阱的能力，實(shí)現(xiàn)以智取勝。總之，當(dāng)前人工智能還離不開(kāi)人腦控制，避免數(shù)據(jù)陷阱最終還要靠人的經(jīng)驗(yàn)和智慧。

劉 鵬

標(biāo)簽： 人工智能 數(shù)據(jù)陷阱 人腦