北京2020年6月17日 /美通社/ -- 近期，天地和興發(fā)布了一篇《請(qǐng)問人工智能，你對(duì)網(wǎng)絡(luò)安全造成了什么影響？》的文章，以下是觀點(diǎn)全文：
當(dāng)前網(wǎng)絡(luò)安全領(lǐng)域攻擊與防御的協(xié)同進(jìn)化如火如荼。像人工智能（AI）和機(jī)器學(xué)習(xí)（ML）這種先進(jìn)的技術(shù)同時(shí)為惡意的攻擊者也帶來了攻擊技術(shù)演進(jìn)的機(jī)會(huì)。簡(jiǎn)單來看，對(duì)網(wǎng)絡(luò)安全的需求比以往任何時(shí)候都更加重要。AI/ML工具在幫助抗擊網(wǎng)絡(luò)犯罪方面可能走了很長(zhǎng)一段路，但是這些技術(shù)并非無所不能，也會(huì)被惡意黑客利用。人工智能將致力于極大地提高網(wǎng)絡(luò)安全性，但黑客也可將其用于網(wǎng)絡(luò)犯罪活動(dòng)，這是對(duì)網(wǎng)絡(luò)安全的真正威脅。AI可以有效地分析用戶行為，推導(dǎo)模式并識(shí)別網(wǎng)絡(luò)中的各種異?；虿徽Ｇ闆r。有了這些數(shù)據(jù)，可以快速輕松地識(shí)別網(wǎng)絡(luò)漏洞。反之，現(xiàn)在依賴于人類智能的職責(zé)將易于受到模仿合法的基于AI算法的惡意程序的攻擊。天地和興認(rèn)為，一些企業(yè)正在熱衷于將其基于AI/ML的概念或產(chǎn)品推向市場(chǎng)。但AI/ML的局限性，導(dǎo)致他們可能會(huì)忽略算法正在產(chǎn)生錯(cuò)誤或虛假的安全感。
一、網(wǎng)絡(luò)安全行業(yè)AI應(yīng)用火熱
技術(shù)和業(yè)務(wù)領(lǐng)導(dǎo)者已將網(wǎng)絡(luò)安全行業(yè)作為當(dāng)今企業(yè)中人工智能（AI）和機(jī)器學(xué)習(xí)（ML）的頂級(jí)高級(jí)用例之一。根據(jù)最新研究，在未來五年里，網(wǎng)絡(luò)安全中的AI技術(shù)有望以每年23%的速度增長(zhǎng)。到2026年，網(wǎng)絡(luò)安全AI市場(chǎng)將從去年的88億美元增長(zhǎng)到382億美元。
2020年，網(wǎng)絡(luò)安全領(lǐng)域的AI將顯著增長(zhǎng)。根據(jù)Capgemini去年的《用人工智能重塑網(wǎng)絡(luò)安全》報(bào)告研究結(jié)果顯示，在2019年之前，只有五分之一的網(wǎng)絡(luò)安全組織在其技術(shù)棧中使用了AI。但是Capgemini的研究人員表示，AI采用率將直線上升，大約有63%的組織計(jì)劃在2020年底之前部署AI。最具有潛力的用例是在運(yùn)營(yíng)技術(shù)（OT）和物聯(lián)網(wǎng)（IoT）。
二、AI在網(wǎng)絡(luò)安全行業(yè)的優(yōu)勢(shì)
人工智能可能會(huì)是網(wǎng)絡(luò)安全的救星。根據(jù)Capgemini研究結(jié)果顯示，80%的公司都依靠AI來幫助識(shí)別威脅和阻止攻擊。這是一個(gè)很大的要求，因?yàn)閷?shí)際上，很少有非專家真正了解AI對(duì)安全的價(jià)值，或者該技術(shù)是否可以有效解決信息安全的許多潛在用例。
發(fā)現(xiàn)新型惡意軟件并不是部署機(jī)器學(xué)習(xí)以提高網(wǎng)絡(luò)安全性的唯一方法：基于AI的網(wǎng)絡(luò)監(jiān)視工具還可以跟蹤用戶的日常行為，從而了解其典型行為。通過分析此信息，AI可以檢測(cè)異常并做出相應(yīng)的反應(yīng)。
領(lǐng)先的網(wǎng)絡(luò)安全公司Darktrace使用機(jī)器學(xué)習(xí)來檢測(cè)威脅，該公司聯(lián)合首席執(zhí)行官Poppy Gustafsson表示，“人工智能使我們能夠以一種智能的方式做出反應(yīng)，了解違規(guī)行為或行為改變的相關(guān)性和后果，并實(shí)時(shí)制定相應(yīng)的反應(yīng)?！?/p>
Darktrace的工業(yè)免疫系統(tǒng)是一項(xiàng)尖端創(chuàng)新，可為運(yùn)營(yíng)技術(shù)實(shí)施實(shí)時(shí)的“免疫系統(tǒng)”，并實(shí)現(xiàn)傳統(tǒng)網(wǎng)絡(luò)防御方法的根本轉(zhuǎn)變。該系統(tǒng)以貝葉斯數(shù)學(xué)和無監(jiān)督機(jī)器學(xué)習(xí)為基礎(chǔ)，對(duì)復(fù)雜的網(wǎng)絡(luò)環(huán)境進(jìn)行分析，以了解每個(gè)網(wǎng)絡(luò)，設(shè)備和用戶的“生活模式”。該技術(shù)不依賴于過去的攻擊知識(shí)，而是像人類免疫系統(tǒng)一樣運(yùn)作，并且可以通過檢測(cè)預(yù)期行為的細(xì)微變化來發(fā)現(xiàn)以前未知的威脅。
網(wǎng)絡(luò)安全主管越來越相信AI對(duì)于增加響應(yīng)時(shí)間和降低預(yù)防漏洞的成本至關(guān)重要。根據(jù)Capgemini的《用人工智能重塑網(wǎng)絡(luò)安全》研究，四分之三的高管表示，網(wǎng)絡(luò)安全領(lǐng)域的AI可以加快對(duì)漏洞的響應(yīng)速度，無論是在檢測(cè)還是補(bǔ)救方面。約有64%的人表示，這也降低了檢測(cè)和響應(yīng)的成本。
盡管人們對(duì)過度依賴AI存有疑慮，但人們似乎正在為一種中庸之道建立共識(shí)，AI并不是魔杖，而是一種有助于增強(qiáng)SOC和整個(gè)安全組織的人類智能（HI）的有用方法。根據(jù)White Hat的《人工智能與人類要素安全情感研究》，大約70%的安全專業(yè)人員同意AI通過消除多達(dá)55%的手動(dòng)任務(wù)來提高團(tuán)隊(duì)效率。這有助于他們專注于更重要的任務(wù)并減輕壓力水平。
三、AI在網(wǎng)絡(luò)安全行業(yè)的局限
經(jīng)驗(yàn)豐富的網(wǎng)絡(luò)安全專家們現(xiàn)在正在研究的問題是：“人工智能到底能在多大程度上幫助改善安全狀況和安全運(yùn)營(yíng)？”AI在網(wǎng)絡(luò)安全中的成熟度到底如何？它能取代安全團(tuán)隊(duì)嗎？網(wǎng)絡(luò)安全行業(yè)在2020年的發(fā)展很大一部分將是如何有效平衡人工智能（AI）和人類智能（HI）。
盡管AI驅(qū)動(dòng)的網(wǎng)絡(luò)安全不斷向前發(fā)展，許多安全專業(yè)人員仍認(rèn)為，人類智能（HI）仍將根據(jù)具體情況提供最佳結(jié)果。白帽安全公司（White Hat Security）在RSA大會(huì)上進(jìn)行的一項(xiàng)最新《人工智能與人類要素安全情感研究》表明，60%的安全專業(yè)人員仍然對(duì)由人類驗(yàn)證的網(wǎng)絡(luò)威脅結(jié)果比人工智能生成的結(jié)果更有信心。大約三分之一的受訪者表示，直覺是推動(dòng)人類分析的最重要的人為因素，21%的人認(rèn)為創(chuàng)造力是人的優(yōu)勢(shì)，20%的人認(rèn)為以前的經(jīng)驗(yàn)和參考框架是使人們對(duì)安全操作流程至關(guān)重要的因素。
Osterman Research的《網(wǎng)絡(luò)安全中人工智能現(xiàn)狀》研究表明，在部署的早期階段，部分問題是人們強(qiáng)烈認(rèn)為AI尚未準(zhǔn)備就緒。一些常見的投訴包括結(jié)果不準(zhǔn)確的問題、在端點(diǎn)上放置某些類型的AI平臺(tái)的性能權(quán)衡、使用困難以及對(duì)誤報(bào)的擔(dān)憂。
網(wǎng)絡(luò)安全專家認(rèn)為，他們對(duì)人工智能的過度依賴也令人擔(dān)憂，因?yàn)樗麄冋J(rèn)為他們所做的工作過于復(fù)雜，無法被機(jī)器復(fù)制。去年P(guān)onemon的《自動(dòng)化時(shí)代IT安全功能的人員配置》報(bào)告調(diào)查結(jié)果顯示，超過一半的安全專家表示，他們將無法訓(xùn)練AI來完成其團(tuán)隊(duì)執(zhí)行的任務(wù)，并且他們更有資格實(shí)時(shí)捕獲威脅。幾乎一半的人還報(bào)告說，人為干預(yù)是網(wǎng)絡(luò)保護(hù)的必要條件。
但是，盡管AI和ML確實(shí)為網(wǎng)絡(luò)安全提供了好處，但對(duì)于組織而言，重要的是要認(rèn)識(shí)到這些工具并不能代替人類安全人員。因此，關(guān)于AI將解決網(wǎng)絡(luò)技能危機(jī)的任何想法都具有廣泛意義。實(shí)際上，這些解決方案通常需要安全團(tuán)隊(duì)花費(fèi)更多的時(shí)間，這一事實(shí)經(jīng)常被忽略。
例如，基于機(jī)器學(xué)習(xí)的安全性工具可能會(huì)被錯(cuò)誤地編程，從而導(dǎo)致算法遺漏意外甚至明顯的事情。如果該工具由于沒有經(jīng)過編碼以考慮某些參數(shù)而錯(cuò)過了特定類型的網(wǎng)絡(luò)攻擊，那將會(huì)導(dǎo)致問題。確實(shí)，AI和ML可能會(huì)產(chǎn)生其他問題，因?yàn)楸M管這些工具有助于防御黑客，但網(wǎng)絡(luò)犯罪分子自己很有可能會(huì)使用相同的技術(shù)來使攻擊更加有效。
例如，可以使用ML自動(dòng)發(fā)送網(wǎng)絡(luò)釣魚電子郵件，并學(xué)習(xí)在活動(dòng)中使用哪種語言，生成點(diǎn)擊的原因以及應(yīng)如何針對(duì)不同目標(biāo)進(jìn)行攻擊。
例如，以異常檢測(cè)為例。對(duì)于安全運(yùn)營(yíng)中心分析人員而言，能夠發(fā)現(xiàn)網(wǎng)絡(luò)中的任何“壞東西”確實(shí)很有價(jià)值，并且機(jī)器學(xué)習(xí)可以很好地解決此問題。但是，找到比以前更多“壞東西”的算法可能并不像聽起來那樣好。所有ML算法都有一個(gè)誤報(bào)率（當(dāng)事件是良性事件時(shí)將其標(biāo)識(shí)為“不良”），其值是各種所需行為之間權(quán)衡的一部分。因此，仍然需要人工來分類這些結(jié)果，而且算法發(fā)現(xiàn)的“錯(cuò)誤”越多，團(tuán)隊(duì)成員需要評(píng)估的事件就越多。
這并不是說這對(duì)于熟悉ML的人來說是一個(gè)特別令人驚訝的結(jié)果，只是對(duì)于那些希望采用這些解決方案的團(tuán)隊(duì)來說，這并不一定是常識(shí)，這可能導(dǎo)致人們對(duì)ML可以為他們節(jié)省多少時(shí)間的期望過高。
盡管上面的示例是關(guān)于如何將ML算法直接用于完成安全團(tuán)隊(duì)的某些工作的示例，但是算法也可以用于幫助用戶避免犯可能帶來風(fēng)險(xiǎn)的錯(cuò)誤，從而間接地為他們提供幫助。這種方法之所以令人興奮，是因?yàn)樗_始著眼于減少進(jìn)入渠道的可能事件的數(shù)量，而不是試圖在事件最終導(dǎo)致安全事件時(shí)識(shí)別并減輕它們。不僅僅是解決最明顯的問題，從長(zhǎng)遠(yuǎn)來看，這些問題可能會(huì)帶來預(yù)期的結(jié)果。
考慮ML時(shí)，另一個(gè)容易忽略的問題是數(shù)據(jù)問題。任何ML算法只有在有足夠的數(shù)據(jù)可供學(xué)習(xí)時(shí)才能工作。學(xué)習(xí)需要時(shí)間。試想，在識(shí)別貓之前，您需要顯示多少張互聯(lián)網(wǎng)貓圖片？模型開始運(yùn)行之前，算法需要運(yùn)行多長(zhǎng)時(shí)間？學(xué)習(xí)過程所花費(fèi)的時(shí)間可能比預(yù)期的長(zhǎng)得多，因此安全團(tuán)隊(duì)需要考慮這一點(diǎn)。此外，對(duì)于某些用例而言最佳的標(biāo)記數(shù)據(jù)在安全性方面供不應(yīng)求。這是另一個(gè)需要“人員參與”來對(duì)安全事件進(jìn)行分類并協(xié)助算法訓(xùn)練的領(lǐng)域。
參考資源
【1】 https://www.darkreading.com/threat-intelligence/the-problem-with-artificial-intelligence-in-security/a/d-id/1337854
【2】 https://www.cybersecurityintelligence.com/blog/the-impact-of-artificial-intelligence-on-cyber-security-4946.html
【3】 https://www.darkreading.com/what-cybersecurity-pros-really-think-about-artificial-intelligence/d/d-id/1337308?image_number=7
