六成程序員確信人工智能會當做武器,而有的已經開始這麼做了

去年,安全公司 ZeroFOX 的兩位數據科學家進行了一次實驗,看看人類或人工智能誰更好地讓 Twitter 用戶點擊惡意鏈接,研究人員教導人工智能研究社交網絡用戶的行為,然後設計並實施自己的網絡釣魚誘餌。

在測試中,「人工智能黑客」 SNAP_R 完爆人類競爭對手,獲得了比人類更多的網絡釣魚轉帖,並且點擊率相當高。

幸運的是,這隻是一個實驗。但這遺憾地表明,黑客已經能夠使用 AI 來進行惡意攻擊。今年 7 月份,數百名領先的網絡安全專家聚集在拉斯維加斯,討論人工智能及新興技術帶來的隱患。與會者被問及在未來一年內,黑客是否會使用 AI 進行攻擊,62% 的受訪者表示毫無疑問。

Cylance 主管安全數據科學家 Brian Wallace 在接受 Gizmodo 採訪時說,黑客一直在使用人工智能作為武器。因為黑客有受害規模的問題,肯定希望用最小的成本完成大規模的目標攻擊,同時儘量減少對自己的風險。人工智能和機器學習,就是他們最完美工具。

今天,機器學習、自然語言處理、神經網絡等許多領域的快速發展讓我們對人工智能的未來充滿了欣喜。生活中的我們將人工助理(如 Siri 或 Alexa)、自駕車和疾病診斷算法當作理所當然的,但同時科幻電影和小說里的高級人工智能卻讓我們迷戀又恐懼。

我們當然不用懷疑人工智能在改善人類文明狀態中的幫助,但同時我們也相信只有在錯誤的個人手中,人工智能才會顯得可怕。

移動安全初創公司 Zighra 的創始人兼首席執行官 Deepak Dutt 表示,在不久的將來,複雜的人工智能將被用於網絡攻擊的可能性非常高,而且它可能已經被俄羅斯、東歐、中國等國家所使用。

人工智能可用於挖掘大量公共領域和社交網絡數據,以提取出生日期、性別、位置、電話號碼和電子郵件地址等個人身份信息,這對黑客入侵個人賬戶提供了極大的便利。它還可以用於自動監控電子郵件和短信,可以智能地搜索和挖掘公共事務系統中的漏洞。

絕大多數網絡攻擊都是自動化的,人類黑客進行單一目標的攻擊是非常少的,現在更常見的方法是使用 AI 和機器學習的工具進行自動化攻擊,從分布式拒絕服務攻擊(DDoS)攻擊到勒索軟件(ransomware)。

雖然自動化在根本上其實並部是智能的。相反地,可能會出現某種形式的自動化,特別是那些涉及大量複雜任務的自動化,這種攻擊形式令人恐懼。

隨着人工智能變得成熟並開始滲透進我們的生活,「壞人」將會開始使用它來提高攻擊性能,同時降低成本,人工智能已經是現代黑客工具包的一部分。

幸運的是,安全專業人員也有明顯的對策和對抗的利器,即人工智能本身。麻煩的是,這勢必會在兩個陣營之間產生一場「軍備競賽」。雙方都沒有選擇,唯一的對抗方式就是越來越依賴系統。

為了保持優勢,部分安全公司已經開始內部研究策略,並開發自己的武器化 AI 來對抗防禦黑客。五角大樓的神秘研究機構 DARPA 已經採用了這種方法,AI 開發人員在奪旗的虛擬游戲中進行演戲。

這個過程非常達爾文,令人聯想起到 AI 開發的另一種方法——進化算法。對於黑客和信息技術專業人士來說,這也是一個優勝劣汰\最強悍的 AI 生存的游戲。

這與 Elon Musk 所擔心的不謀而合。就在 9 月初,Musk 就在推特上提到過,「戰爭可能不是由國家的領導人發動,而是由人工智能發動——只要它認為先發制人的打擊是取得勝利最為有效的方式」。

喜歡這篇文章嗎?快分享吧!

以下資訊根據您的興趣推薦