人工智能與信息安全——從柯潔大戰AlphaGo說起

據媒體最新消息，圍棋人工智能程序AlphaGo將于2017年5月22—27日在浙江烏鎮與包括柯潔在內的中國頂尖棋手對決，這可能是人類最頂尖棋手與人工智能程序的“終極對決”。不過，這次終極對決的焦點不是棋藝，而是兩種不同方式產生的智能誰更強。本文將揭開人工智能的神秘面紗。

人工智能

人工智能（Artificial Intelligence, AI）是研究、開發用于模擬、延伸和擴展人類智能的理論、方法、技術及應用系統的一門新的科學技術，是計算機科學的一個分支，試圖了解智能的實質，并生產出一種新的能以人類智能相似的方式做出反應的智能機器。AI的主要研究內容包括：機器學習、神經網絡、計算機視覺、智能機器人、自然語言理解、自動推理和搜索方法等。總體來說，AI研究的一個主要目標是使機器能夠勝任一些通常需要人類智能才能完成的“復雜工作”，即以前繁重的科學和工程計算本來是要人腦來承擔的，如今計算機不但能完成這種計算，而且能夠比人腦做得更快。

人工智能與信息安全

隨著技術革新，AI逐漸走入千家萬戶，一些看似只有在電影中出現的場景正在成為現實，隨之而來的安全漏洞問題同樣不容忽視，有些甚至已經顯現。傳統網絡漏洞帶來的損失一般是信息泄露、銀行卡盜刷等欺詐、盜竊行為，這些損失往往可以用金錢衡量。而隨著技術的逐漸完善，AI已越來越多地進入到工業、生活等諸多領域。針對AI的網絡攻擊所帶來的損失，有可能迅速傳導給消費者，嚴重時甚至危及生命。特斯拉去年已經在利用AI來研究無人駕駛，依靠遍布車身的上百個傳感器將源源不斷的數據發送給車的自動駕駛系統，來實現等紅燈、保持車距、躲避障礙物、并線等一系列安全駕駛功能。然而研究發現，可利用數據欺詐等手段遠程控制汽車，讓汽車偏航，甚至逼停汽車造成事故。這種AI的網絡攻擊就不僅僅是財產損失了，有時還將威脅到生命。此外，相比人類而言，AI很難從極少數的例子上學到有價值的信息，并針對某個情境獨立建造一個抽象模型進行具有一定高度的歸納總結。“小數據”的不穩定性給AI帶來了不可靠、不準確和不公平，而且還存在較大的安全風險。簡言之，AI目前還存在著很多漏洞，尚無法確保其的絕對安全性。

（作者：康雙勇，原載于《保密科學技術》2017年第4期）