McAfee CTO @ RSA: Catching Lightning in a Bottle or Burning Bridges to the Future? Steve Grobman 於2019年 3月14日
我上週在舊金山舉行的RSA會議上就網路安全領域的人工智能相關威脅和機遇進行了採訪。我斷言，像AI這樣的創新可以加強我們的防禦，但也可以提高網路攻擊者的效率。我還看了一些AI中潛在脆弱性的例子，它們使攻擊者有機會逃避基於AI的防禦。成功釋放人工智能在網絡安全中的潛力的關鍵要求我們在網路安全行業回答如何培養人工智能創新的火花，同時認識到其局限性以及如何利用它來對付我們的問題。 我們應該關注關鍵技術進步的歷史，以更好地了解技術如何帶來利益和挑戰。考慮20世紀的飛行。這項技術改變了我們生活的方方面面，使我們能夠在數小時而不是數週內在各大洲之間移動。企業，供應鍊和經濟在全球範圍內運作，我們探索世界和宇宙的能力已經永遠改變。 但這種完全相同的技術也從根本上改變了戰爭。僅在第二次世界大戰中，盟軍和軸心國的戰略轟炸行動已造成200多萬人死亡，其中許多人是平民。 飛行的基本技術是伯努利原理，它解釋了為什麼飛機機翼會產生升力。當然，所使用的技術並不知道飛機機翼是否與“救生飛行”救援任務相連，也不知道飛機機翼是否與攜帶炸彈落在民用目標上的飛機相連。 當第二次世界大戰期間空中力量遭到破壞後，奧維爾賴特在1948年被問到是否後悔發明飛機時，他回答說：
“不，我對飛機的發明沒有任何遺憾，儘管沒有人能比我造成的破壞更讓人感到遺憾。我們敢於希望我們發明了能給地球帶來持久和平的東西。但我們錯了。我對飛機的感覺與我在火上的情況大致相同。也就是說，我對火災造成的所有可怕損害感到遺憾，但我認為有人發現如何開火，以及我們已經學會瞭如何放火燒成數千種重要用途對人類有益。 奧維爾認為技術不能理解道德，而技術的任何進步都可以用於有益和令人不安的目的。這種技術的雙重用途是我們的行業多年來一直在努力的方向。 密碼學就是一個很好的例子。完全相同的算法可用於保護數據免遭盜竊，或保護個人或組織以獲取贖金。這比以往任何時候都重要，因為我們現在加密了全球75％的網絡流量，每月保護超過150艾字節的數據。與此同時，組織和個人正在通過勒索軟件持續記錄。 在20世紀90年代，RSA會議本身處於辯論的中心，關於是否有可能僅在理想的地方有條件地使用強加密，或僅用於理想的功能。當時，美國政府將強加密歸類為彈藥，並嚴格限制出口。加密最終只是數學，不可能阻止某人做數學。我們必須在技術上誠實地對待我們的技術; 他們是如何工作的，使用它們的前兆是什麼，何時，如何以及是否應該被控制。 我們在網路安全方面的共同挑戰是捕獲瓶中的閃電，抓住飛行等進步的承諾，同時保持對技術帶來的風險的認識。讓我們仔細看看這個方面。 歷史總是重演無論您如何定義它，AI毫無疑問是網路安全防禦的新基礎。整個行業正在利用這項技術提供的巨大力量來更好地保護我們的環境。它可以更好地檢測超出我們過去所見的威脅，並幫助我們創新我們的網絡對手。威脅情報和人工智能的結合，或人機組合為我們提供了比自己的任何一種能力更快的安全結果。
AI不僅使我們能夠建立更強大的網路防禦技術，還幫助我們解決其他關鍵問題，如解決人才短缺問題。我們現在可以委派許多任務來釋放我們的人類安全專業人員，專注於保護我們組織的最關鍵和最複雜的方面。
“這只是數學......”像加密一樣，AI只是數學。它除了有益的目的外，還可以增強犯罪企業。邁克菲首席數據科學家Celeste Fralick在本週的主題演講中與我一起參與了這個主題演講，以了解這些數學如何應用於好或壞。（訪問此處查看主題演講）。從機器學習推動的犯罪狂歡預測器到DeepFake視頻到高效的攻擊混淆，我們都會觸及它們。
重要的是要了解網路安全行業與使用AI和機器學習的其他行業有很大不同。首先，在許多其他行業中，沒有一個對手試圖混淆模型。 AI非常脆弱，因此邁克菲數據科學小組的一個重點領域是Adversarial Machine Learning。我們正在努力更好地了解攻擊者如何試圖逃避或毒害機器學習模型。我們正在開發使用諸如降低功能，增加噪音，蒸餾等技術的攻擊更具彈性的模型。 AI和誤報：警告我們必須認識到，這項技術雖然功能強大，但與許多網絡安全防御者在歷史上的工作方式截然不同。為了處理逃避等問題，需要將模型調整到高水平的靈敏度。高水平的敏感性使得誤報固有，我們必須充分利用該技術的方法。
假陽性可能會帶來災難性後果。對於一個很好的例子，觀看主題演講的視頻在這裡如果你還沒有看到它。我講述了一個典型的例子，說明假陽性幾乎是如何開始第三次世界大戰和核世界末日。 帶走與火災和飛行一樣，我們如何管理新的創新才是真實的故事。認識到技術沒有道德指南針是關鍵。我們的對手將利用這項技術使他們的攻擊更有效，我們必須睜大眼睛看待技術如何使用的各個方面...... 它的好處，局限性以及它將如何用於對付我們。
請參閱我們的主題演講視頻錄製RSA會議2019：https：//www.rsaconference.com/events/us19/presentations/keynote-mcafee
|
