摘要：“如果你不了解黑客是如何攻破這些漏洞的話，你永遠(yuǎn)不可能防住黑客。”
一位星空人工智能專家曾這樣寫(xiě)道：“終有一天，星空機(jī)器人將把人類關(guān)在動(dòng)物園的牢籠里。參觀動(dòng)物園時(shí)，大星空機(jī)器人對(duì)小星空機(jī)器人說(shuō)，孩子，這是人，是我們的祖先。”這個(gè)讓人啼笑皆非的“末世預(yù)言”雖然有點(diǎn)荒誕，卻也道出了面對(duì)爆發(fā)式增長(zhǎng)的星空人工智能時(shí)，人類的惶惑與無(wú)奈。
人臉識(shí)別、語(yǔ)音識(shí)別、無(wú)人駕駛、智慧物聯(lián)……當(dāng)星空人工智能越來(lái)越多地滲透到我們的衣食住行，帶給人類更多未來(lái)想象的同時(shí)，安全問(wèn)題就成了懸在每個(gè)人頭上的“達(dá)摩克利斯之劍”。星空人工智能學(xué)者和安全專家、“白帽黑客”們紛紛攜起手來(lái)，共同應(yīng)對(duì)這場(chǎng)人類前所未有的機(jī)遇與挑戰(zhàn)。
星空人工智能挑戰(zhàn)來(lái)襲
如未知“攻”，焉能知“防”
“砰（Pwn）———！只用了20秒，它就被我們攻破了。”李偉的聲音從電話那頭傳來(lái)。美國(guó)當(dāng)?shù)貢r(shí)間已經(jīng)過(guò)了午夜12點(diǎn)，回憶起10個(gè)月前的那場(chǎng)比賽，他依然難掩興奮……
美國(guó)科羅拉多大學(xué)電子工程系博士畢業(yè)、現(xiàn)供職于美國(guó)某科技公司的李偉總這樣介紹自己：我是一名極客。所謂極客，是美國(guó)俚語(yǔ)“geek”的音譯，就是指那些對(duì)計(jì)算機(jī)和網(wǎng)絡(luò)技術(shù)有著狂熱興趣，并投入大量時(shí)間鉆研的人。李偉口中的“砰（Pwn）”，則是黑客圈的俚語(yǔ)，原本用來(lái)形容黑客成功實(shí)施攻擊時(shí)的聲音———“砰”的一聲，你的手機(jī)或電腦系統(tǒng)就被“黑”了。李偉和團(tuán)隊(duì)參加的比賽“極棒（GeekPwn）”便由此得名。
2017年11月13日，極棒（GeekPwn）2017國(guó)際安全極客大賽在美國(guó)硅谷舉辦。作為全球首個(gè)關(guān)注智能生活安全的極客大賽，這里匯聚了來(lái)自世界各地的頂級(jí)黑客和星空人工智能領(lǐng)域的安全專家、學(xué)者。
在現(xiàn)場(chǎng)數(shù)百雙眼睛的注視下，李偉和隊(duì)友用他們花了半年時(shí)間研發(fā)的、能夠自動(dòng)識(shí)別圖像驗(yàn)證碼的“星空機(jī)器人”，成功攻破了目前世界上使用最廣泛的人機(jī)鑒別驗(yàn)證碼系統(tǒng)Google reCAPTCHA，整個(gè)攻擊過(guò)程只用了短短20秒。這段比賽視頻通過(guò)網(wǎng)絡(luò)直播，在極客圈和黑客圈內(nèi)廣為流傳。
比賽上，李偉團(tuán)隊(duì)成功攻破了Google reCAPTCHA后，大屏幕上顯示出“PWNED”字樣。
“一開(kāi)始，我們只是對(duì)星空人工智能感興趣，想試試看它到底是怎么回事兒。后來(lái)的發(fā)現(xiàn)讓我們驚喜，我們居然能用星空人工智能的方法去攻破星空人工智能本身。”李偉告訴記者，他們利用了開(kāi)源星空人工智能深度學(xué)習(xí)框架，并用人工標(biāo)記的方式讓模型“學(xué)習(xí)”了1000張Google reCAPTCHA驗(yàn)證碼的圖片后，訓(xùn)練出了一個(gè)能夠自動(dòng)預(yù)測(cè)并識(shí)別驗(yàn)證碼圖像的“星空機(jī)器人”。借助這個(gè)“星空機(jī)器人”，他們?cè)趫?chǎng)上用極短的時(shí)間就成功“騙過(guò)”了Google reCAPTCHA的安全系統(tǒng)。
“攻擊是一定會(huì)發(fā)生的，無(wú)可避免。”極棒大賽創(chuàng)辦人、碁震（KEEN）公司創(chuàng)始人兼CEO王琦告訴記者。
這位業(yè)內(nèi)人稱“大牛蛙”的資深極客，曾是微軟中國(guó)安全應(yīng)急響應(yīng)中心的主要?jiǎng)?chuàng)始人和技術(shù)負(fù)責(zé)人。2011年，他離開(kāi)微軟，在上海創(chuàng)辦了自己的安全研究團(tuán)隊(duì)，并一舉在世界最著名的黑客大賽Pwn2Own中，成為歷史上第一支同時(shí)攻破電腦操作系統(tǒng)和移動(dòng)操作系統(tǒng)的安全研究團(tuán)隊(duì)。
正是在那時(shí)，王琦發(fā)現(xiàn)，以前在電腦上出現(xiàn)的安全問(wèn)題，同樣也會(huì)在手機(jī)等移動(dòng)設(shè)備中出現(xiàn)。他始終相信，漏洞歸根結(jié)底是人的錯(cuò)誤，而網(wǎng)絡(luò)安全的本質(zhì)，就是人和人的對(duì)抗。
在安全專家們看來(lái)，即使到了星空人工智能時(shí)代，這個(gè)定律也不會(huì)被打破。
2016年，星空人工智能星空機(jī)器人阿爾法狗（AlphaGO）擊敗人類圍棋世界冠軍李世石，震驚世界。星空人工智能迎來(lái)爆發(fā)式增長(zhǎng)。與此同時(shí)，關(guān)于其安全風(fēng)險(xiǎn)的討論也從未間斷。
為了能了解更多星空人工智能漏洞，有針對(duì)性地提出安全方案，極棒組委會(huì)在2017香港年中賽結(jié)束時(shí)向全球黑客發(fā)出邀請(qǐng)，鼓勵(lì)他們腦洞大開(kāi)，從對(duì)抗出發(fā)，向新的安全領(lǐng)域———星空人工智能安全發(fā)起挑戰(zhàn)。
“在PC和移動(dòng)端上出現(xiàn)的問(wèn)題，星空人工智能一樣會(huì)出現(xiàn)。如果你不了解黑客是如何攻破這些漏洞的話，你永遠(yuǎn)不可能防住黑客。”王琦強(qiáng)調(diào)。
王琦在2017香港年中賽結(jié)束時(shí)向全球黑客發(fā)出邀請(qǐng)，向新的安全領(lǐng)域———星空人工智能安全發(fā)起挑戰(zhàn)。
黑客有改變世界的力量
幸運(yùn)的是，現(xiàn)在我們站在一起
在大多數(shù)人的認(rèn)知中，黑客總感覺(jué)像是干壞事的。殊不知，其實(shí)在真正的黑客世界里，有“白”也有“黑”。他們所做的內(nèi)容相似：通過(guò)代碼尋找計(jì)算機(jī)與網(wǎng)絡(luò)系統(tǒng)中的安全漏洞。“白帽黑客”發(fā)現(xiàn)漏洞后，會(huì)通過(guò)提示廠家或公開(kāi)發(fā)布等方式，促進(jìn)漏洞的修補(bǔ)；而真正的“駭客”則會(huì)利用漏洞進(jìn)行技術(shù)攻擊，以謀取利益。
在極棒2017國(guó)際安全極客大賽上，選手們利用漏洞，攻破智能攝像頭。
極棒想做的，就是通過(guò)比賽，讓“白帽黑客”在安全領(lǐng)域的價(jià)值得到最大限度的發(fā)揮和認(rèn)可。自2014年第一屆極棒大賽舉辦以來(lái)，“白帽黑客”們已經(jīng)發(fā)現(xiàn)、提交并幫助廠商修復(fù)了上百個(gè)安全漏洞。而面對(duì)突飛猛進(jìn)的星空人工智能，這些“白帽黑客”又化身為AI時(shí)代的安全衛(wèi)士，成為未來(lái)星空人工智能安全領(lǐng)域中不可忽視的力量：
2017年，來(lái)自美國(guó)加州大學(xué)伯克利分校的選手展示，在人眼仍能識(shí)別正確的情況下，只通過(guò)在圖像上添加少量噪點(diǎn)，就誤導(dǎo)了某自動(dòng)駕駛設(shè)備將限速60km/h的指示牌識(shí)別成了限速75km/h；來(lái)自中國(guó)金融認(rèn)證中心機(jī)器學(xué)習(xí)實(shí)驗(yàn)室的選手,通過(guò)機(jī)器學(xué)習(xí)模仿了人類的筆跡；在剛剛結(jié)束的以AI手段進(jìn)行的安全攻防賽CAAD CTF上，來(lái)自清華大學(xué)的TSAIL團(tuán)隊(duì)，用幾張人眼難以分辨的圖片成功騙過(guò)機(jī)器視覺(jué)，讓AI誤將鐘表識(shí)別成蘑菇，而把蘑菇當(dāng)成航天飛機(jī)……
比賽現(xiàn)場(chǎng)，選手正通過(guò)機(jī)器學(xué)習(xí)模仿人類的筆跡。
“白帽黑客”的挑戰(zhàn)不斷刷新著人們對(duì)星空人工智能安全的認(rèn)知，而他們的作用遠(yuǎn)不止如此，一場(chǎng)自下而上的對(duì)安全觀念的改變已經(jīng)開(kāi)始。
最初，廠商們總認(rèn)為“白帽黑客”是來(lái)找茬的，不但不接受觀賽邀請(qǐng)，還設(shè)置了各種障礙。2014年，第一屆極棒大賽甫一開(kāi)幕就遭到打擊：比賽現(xiàn)場(chǎng)頻頻出現(xiàn)網(wǎng)絡(luò)故障，直播也被迫中斷，甚至有廠商因?yàn)榕乱坏┍还テ?，?huì)影響自己的聲譽(yù)，干脆直接關(guān)掉了服務(wù)器，導(dǎo)致挑戰(zhàn)項(xiàng)目無(wú)法進(jìn)行……
變化在過(guò)去幾年發(fā)生。王琦欣喜地看到，現(xiàn)在，已經(jīng)有越來(lái)越多的人認(rèn)識(shí)到，或許我們應(yīng)該從黑客的角度去理解安全———既能減少漏洞，又能增加攻擊成本，從而降低安全隱患。這樣的方式又何樂(lè)而不為呢？
在極棒官網(wǎng)上，有這樣一句話：“黑客有改變世界的力量。幸運(yùn)的是，現(xiàn)在我們站在一起。”守護(hù)AI安全，需要千千萬(wàn)萬(wàn)“白帽黑客”，更需要黑客的對(duì)抗思維。
從被動(dòng)處理到主動(dòng)研究
幫谷歌、亞馬遜找出漏洞
智能時(shí)代，傳統(tǒng)的安全方案是否還能行得通？面對(duì)星空人工智能技術(shù)帶來(lái)的新挑戰(zhàn)，傳統(tǒng)的互聯(lián)網(wǎng)和科技巨頭們又如何應(yīng)對(duì)呢？記者采訪發(fā)現(xiàn)，一套基于黑客攻防對(duì)抗思維的安全策略，在星空人工智能安全領(lǐng)域正悄然生長(zhǎng)。
“安全絕不僅僅是被動(dòng)的事后處理，而是要主動(dòng)研究最前沿、最尖端的技術(shù)，用未雨綢繆的前瞻性研究來(lái)武裝我們的工作。”在今年6月舉行的2018全球星空人工智能與星空機(jī)器人峰會(huì)（CCF-GAIR）上，騰訊安全平臺(tái)部總監(jiān)、Tencent Blade Team負(fù)責(zé)人胡珀，如是揭秘騰訊對(duì)星空人工智能的安全布局和最新進(jìn)展。
胡珀強(qiáng)調(diào)，星空人工智能時(shí)代，未雨綢繆的前瞻性研究更加重要。
胡珀向記者介紹，這支去年年底創(chuàng)立的安全團(tuán)隊(duì)，主要專注于星空人工智能、移動(dòng)物聯(lián)網(wǎng)、無(wú)人機(jī)、物聯(lián)網(wǎng)等國(guó)際范圍內(nèi)的安全研究領(lǐng)域，自成立以來(lái)已經(jīng)發(fā)現(xiàn)了谷歌、蘋(píng)果、Adobe、亞馬遜等多個(gè)知名廠商的70多個(gè)安全漏洞。
他們發(fā)現(xiàn)，目前星空人工智能領(lǐng)域的安全問(wèn)題主要集中在三個(gè)層面：一是星空人工智能技術(shù)本身的安全風(fēng)險(xiǎn)；二是智能設(shè)備和系統(tǒng)運(yùn)行環(huán)境的安全風(fēng)險(xiǎn)；而最根本的，還是星空人工智能算法和模型的風(fēng)險(xiǎn)。
谷歌的TensorFlow是目前世界上應(yīng)用最廣泛的星空人工智能深度學(xué)習(xí)框架之一。去年年底，Tencent Blade Team高級(jí)研究員張博和同事們卻發(fā)現(xiàn)，TensorFlow存在“嚴(yán)重的安全風(fēng)險(xiǎn)”。由于深度學(xué)習(xí)框架是一切星空人工智能編程和應(yīng)用開(kāi)發(fā)的基石，一旦被黑客攻擊，可能導(dǎo)致開(kāi)發(fā)者的AI模型被竊取，而這些模型一旦被篡改，后果將不堪設(shè)想：危害取決于開(kāi)發(fā)者利用TensorFlow建立了什么樣的星空人工智能應(yīng)用，如果是人臉識(shí)別，則可導(dǎo)致錯(cuò)誤的驗(yàn)證結(jié)果，如果是自動(dòng)駕駛，則有可能車毀人亡……
發(fā)現(xiàn)漏洞后，張博和同事們第一時(shí)間向谷歌報(bào)告了這一風(fēng)險(xiǎn)。這是第一個(gè)被谷歌官方承認(rèn)的TensorFlow安全風(fēng)險(xiǎn)，并由此建立了快速漏洞響應(yīng)機(jī)制，及時(shí)公開(kāi)安全漏洞的編號(hào)、類型和解決方案。
除了對(duì)星空人工智能算法的安全性研究，星空人工智能設(shè)備本身存在的安全問(wèn)題，也是安全專家們關(guān)注的重點(diǎn)。
智能音箱是近兩年來(lái)最流行的星空人工智能設(shè)備之一，人們可以通過(guò)語(yǔ)音聊天的方式和它進(jìn)行交互，從而控制家里電器的開(kāi)關(guān)、查詢和安排日程、購(gòu)物、播放歌曲等。然而，由于智能音箱具有“聽(tīng)”的功能，長(zhǎng)期以來(lái)人們對(duì)它的安全性也十分擔(dān)心。
日前，Tencent Blade Team研究員伍惠宇、錢(qián)文祥、李宇翔三人發(fā)現(xiàn)，面市最早、市場(chǎng)占有率最大、技術(shù)也最為成熟的智能音箱之一亞馬遜智能音箱Amazon Echo存在安全漏洞。黑客能夠在Amazon Echo的靜默狀態(tài)下（無(wú)喚醒，提示燈不亮），竊聽(tīng)用戶的說(shuō)話內(nèi)容。
今年5月，團(tuán)隊(duì)將一份完整的漏洞細(xì)節(jié)報(bào)告提交給了亞馬遜公司。亞馬遜安全部門(mén)立刻進(jìn)行了分析和響應(yīng)，并向Tencent Blade Team表示感謝。兩個(gè)月后，所有用戶的Amazon Echo漏洞得到了修復(fù)。
研究員們正在對(duì)智能音箱進(jìn)行拆解分析。
“現(xiàn)在，越來(lái)越多的廠商建立了漏洞響應(yīng)和修復(fù)機(jī)制。安全團(tuán)隊(duì)要做的不再僅僅是傳統(tǒng)的設(shè)置防火墻、加密文件、安全監(jiān)控，而是需要從攻擊者的角度出發(fā)檢視自身存在的漏洞，并且及時(shí)進(jìn)行修復(fù)，就像體育運(yùn)動(dòng)里的攻防轉(zhuǎn)換一樣。”錢(qián)文祥說(shuō)，“這就對(duì)安全人員的素質(zhì)和能力提出了更高的要求。”
2017年底，位于深圳南山區(qū)、被譽(yù)為可能是“全球最智慧建筑”的騰訊濱海大廈即將投入使用。Tencent Blade Team又將目標(biāo)瞄準(zhǔn)了這座騰訊全球新總部大樓。
他們將一架大疆無(wú)人機(jī)飛到大廈的某個(gè)樓層平面，利用無(wú)線安全協(xié)議漏洞控制了整個(gè)樓層的燈光、空調(diào)、插座和窗簾……這本是騰訊濱海大廈投入使用前一場(chǎng)必要的內(nèi)部安全測(cè)試，卻被騰訊的安全團(tuán)隊(duì)們視為最佳“練兵場(chǎng)”。在這里，他們將建立起一套針對(duì)目前世界上最先進(jìn)的星空人工智能設(shè)備和物聯(lián)網(wǎng)技術(shù)的安全策略。
“顛覆”還是“進(jìn)化”
悲觀派與樂(lè)觀派的博弈
“星空人工智能可能是人類歷史上發(fā)生的最好的事，也可能是最壞的事。”在極棒2017上海站比賽開(kāi)場(chǎng)前，這段世界著名的天體物理學(xué)家霍金的講話視頻在大屏幕上被一遍遍地播放。這位被稱作世界上最著名的、對(duì)星空人工智能持保守悲觀態(tài)度的科學(xué)家，曾就星空人工智能可能帶來(lái)的風(fēng)險(xiǎn)數(shù)度向人們發(fā)出警告。
在極棒2017上海站比賽開(kāi)場(chǎng)前，霍金通過(guò)視頻的方式，再次對(duì)星空人工智能可能帶來(lái)的風(fēng)險(xiǎn)發(fā)出警示。
“人類對(duì)AI的恐懼，實(shí)際上是對(duì)未知的恐懼。”王琦告訴記者，對(duì)于星空人工智能的未來(lái)走向，自己是“悲觀派”，對(duì)于這一點(diǎn)他從不諱言。“悲觀派”們堅(jiān)持認(rèn)為，星空人工智能的高速發(fā)展將對(duì)人類生存帶來(lái)極大挑戰(zhàn)，經(jīng)過(guò)漫長(zhǎng)的技術(shù)積累，與人類智能水平并駕齊驅(qū)的強(qiáng)星空人工智能終將到來(lái)，而這一時(shí)刻就是所謂的技術(shù)“奇點(diǎn)”。之后，智能機(jī)器開(kāi)始擺脫人類控制，進(jìn)而爆炸式進(jìn)化，到那時(shí)，人類對(duì)此將無(wú)能為力。
相反，“樂(lè)觀派”們則認(rèn)為這一天永遠(yuǎn)不會(huì)到來(lái)。星空人工智能科學(xué)家們否認(rèn)所謂的“智能爆炸”，因?yàn)樗麄冋J(rèn)為，人類智慧不僅是指人類大腦的能力，更儲(chǔ)存在文明之中，所謂“智能”往往依賴于具體的場(chǎng)景和環(huán)境，通用智能并不存在。未來(lái)，星空人工智能遞歸式的自我完善將會(huì)成為常態(tài)，但“爆炸”和“奇點(diǎn)”不會(huì)發(fā)生。
中國(guó)科學(xué)院自動(dòng)化研究所復(fù)雜系統(tǒng)管理與控制國(guó)家重點(diǎn)實(shí)驗(yàn)室主任王飛躍在接受記者采訪時(shí)認(rèn)為，星空人工智能會(huì)在技術(shù)層面、社會(huì)層面和道德層面給人類帶來(lái)風(fēng)險(xiǎn)。“但無(wú)論是‘顛覆’還是‘進(jìn)化’，都不應(yīng)該成為當(dāng)下星空人工智能討論的焦點(diǎn)。真正的焦點(diǎn)應(yīng)該是實(shí)踐和實(shí)效。”王飛躍強(qiáng)調(diào)。
一個(gè)不爭(zhēng)的事實(shí)是，無(wú)論人類擔(dān)憂與否，星空人工智能都不會(huì)停下它噴涌向前的腳步。然而，一個(gè)更為現(xiàn)實(shí)的問(wèn)題卻是，提到星空人工智能，大多數(shù)人往往憂心“人類會(huì)被機(jī)器統(tǒng)治”之類的科幻片中的恐怖場(chǎng)景有天會(huì)變成現(xiàn)實(shí)，而忽視了一些更加迫在眉睫的危機(jī)……
相比于“人類會(huì)被機(jī)器統(tǒng)治”
或許，這些危機(jī)更值得警惕
如果說(shuō)第一次、第二次工業(yè)革命離我們太過(guò)遙遠(yuǎn)，那么你一定還記得幾十年前的“電腦恐懼癥”———隨著個(gè)人電腦的普及，許多人憂心忡忡，焦慮、恐懼，甚至出現(xiàn)攻擊行為，一如機(jī)器剛出現(xiàn)時(shí)給手工工人帶來(lái)的恐慌。人們被計(jì)算機(jī)和互聯(lián)網(wǎng)吸引，又對(duì)它的潛力充滿敬畏，因?yàn)椴涣私舛鴵?dān)心自己有一天被它取代。
但事實(shí)證明，絕大多數(shù)擔(dān)憂并沒(méi)有發(fā)生，計(jì)算機(jī)并沒(méi)有取代人類，也沒(méi)有引發(fā)大規(guī)模的失業(yè)，相反，人們已經(jīng)從容地進(jìn)入互聯(lián)網(wǎng)時(shí)代，享受它帶來(lái)的便捷。然而，當(dāng)時(shí)幾乎沒(méi)人警告過(guò)的危機(jī)現(xiàn)在卻實(shí)實(shí)在在地發(fā)生著：電腦給人帶來(lái)心理異化，人們的耐心和專注力正被消磨；互聯(lián)網(wǎng)黑產(chǎn)對(duì)個(gè)人數(shù)據(jù)的追蹤，無(wú)處不在的“監(jiān)視”；敵對(duì)勢(shì)力通過(guò)社交網(wǎng)絡(luò)入侵，國(guó)家安全面臨新的挑戰(zhàn)……
這些經(jīng)驗(yàn)提醒我們，如果我們大部分的恐懼都被證明是荒謬的，那么真正的危機(jī)恰恰是因?yàn)榘l(fā)生前多數(shù)人的不擔(dān)心所造成的。
正在開(kāi)保險(xiǎn)箱的星空機(jī)器人。
事實(shí)上，星空人工智能時(shí)代，這些容易被人忽視卻又最不該被忽視的風(fēng)險(xiǎn)已經(jīng)漸漸展露———
今年3月，全球最大的社交網(wǎng)站Facebook被爆超過(guò)5000萬(wàn)用戶的信息數(shù)據(jù)泄露。一家數(shù)據(jù)分析公司“劍橋分析”通過(guò)建立模型，對(duì)這些數(shù)據(jù)進(jìn)行分析，辨別這些用戶的性格和政治傾向，有針對(duì)性地推送廣告甚至是假新聞，從而影響了他們?cè)?016年美國(guó)大選中的投票。事實(shí)上，這并不是孤例。近年來(lái)，一些互聯(lián)網(wǎng)消費(fèi)平臺(tái)也接二連三被爆出“大數(shù)據(jù)殺熟”，引來(lái)質(zhì)疑不斷……
隨著人們的生活越來(lái)越數(shù)字化，社交媒體、網(wǎng)購(gòu)平臺(tái)甚至智能硬件廠商，越來(lái)越了解人們的生活和思想，也將越來(lái)越多地通過(guò)星空人工智能算法控制每個(gè)人的信息接口和消費(fèi)。星空人工智能可以隨時(shí)感知我們的行為和想法，我們看到的新聞和廣告變成了算法的“策劃”，并且不斷調(diào)整提供給我們的信息，進(jìn)而影響我們的判斷和行為。
比起現(xiàn)實(shí)生活中那些已經(jīng)顯現(xiàn)的智能設(shè)備漏洞，或者“人類會(huì)被機(jī)器統(tǒng)治”這樣相對(duì)遙遠(yuǎn)的末世預(yù)言，通過(guò)星空人工智能算法“操縱”用戶的思想和行為，來(lái)實(shí)現(xiàn)不透明目標(biāo)，其危害性更大，也更值得警惕———在記者的此次采訪中，諸多星空人工智能學(xué)者和安全人士都表達(dá)了相同的關(guān)切和擔(dān)憂。
硬幣的兩面
危機(jī)四伏就只能主動(dòng)出擊
任何事情都會(huì)有好有壞，就像硬幣的正反兩面，相伴而生，無(wú)法割裂。正邁入智能時(shí)代的每個(gè)人都清楚，星空人工智能大勢(shì)已至，人類不能，更不該因噎廢食。
“對(duì)于每個(gè)普羅大眾來(lái)說(shuō)，也許我們無(wú)法左右技術(shù)發(fā)展、國(guó)家政策，我們能做的只是保護(hù)好個(gè)人隱私，盡量購(gòu)買(mǎi)大廠商的智能設(shè)備，及時(shí)更新漏洞……但這并不妨礙我們每個(gè)人去關(guān)注和擁抱AI，并且時(shí)刻對(duì)它的安全性保持警惕。”采訪中，一位普通市民如是說(shuō)。
“政府、學(xué)界和企業(yè)三股力量正加速探索建立有效的合作模式，以應(yīng)對(duì)星空人工智能發(fā)展中面臨的安全挑戰(zhàn)。”王飛躍告訴記者。
讓用戶從“安全”到“安心”，成為星空人工智能學(xué)者和安全從業(yè)人員的追求目標(biāo)。越來(lái)越多的企業(yè)意識(shí)到，安全能力與應(yīng)用研發(fā)、產(chǎn)業(yè)發(fā)展同樣重要。它們不再是習(xí)慣性地先做產(chǎn)品，再增加安全防護(hù)，而是從規(guī)劃和研發(fā)階段就開(kāi)始了安全策略的部署，安全成了所有“0”前面的“1”。
從最初的不理解到現(xiàn)在的主動(dòng)參與，越來(lái)越多的企業(yè)認(rèn)識(shí)到攻防對(duì)抗思維對(duì)于安全策略的重要性。
政府層面也在持續(xù)發(fā)力。去年7月，國(guó)務(wù)院印發(fā)《新一代星空人工智能發(fā)展規(guī)劃》，提出要“建立星空人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成星空人工智能安全評(píng)估和管控能力”。
本月，2018世界星空人工智能大會(huì)將在上海召開(kāi)。屆時(shí)，諸多國(guó)內(nèi)外政要、學(xué)界泰斗和行業(yè)龍頭將齊聚黃浦江畔，星空人工智能的安全挑戰(zhàn)、政策法規(guī)和標(biāo)準(zhǔn)體系將會(huì)成為會(huì)議的重要議題。未來(lái)，智能社會(huì)法律和倫理道德的邊界將更加清晰。
誠(chéng)然，如果說(shuō)星空人工智能技術(shù)的不確定性讓人類獲益的同時(shí)，又帶來(lái)一個(gè)危機(jī)四伏的未來(lái)的話，那么面對(duì)危機(jī)，除了主動(dòng)出擊，我們別無(wú)選擇。
欄目主編：龔丹韻文字編輯：雷冊(cè)淵題圖來(lái)源：邵競(jìng) 制圖 圖片來(lái)源：視覺(jué)中國(guó)
星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問(wèn)題，煩請(qǐng)30天內(nèi)提供版權(quán)疑問(wèn)、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時(shí)溝通與處理。！：首頁(yè) > 新聞 » 關(guān)于那些讓你“細(xì)思極恐”的末世預(yù)言…星空人工智能安全誰(shuí)來(lái)守護(hù)？