極端組織也搶搭AI熱潮　專家示警招募新血以及網攻能力恐大幅強化

美聯社指出，根據國家安全專家說法，極端組織「伊斯蘭國」（IS）雖在2014年盛極一時，掌控敘利亞以及伊拉克境內大片領土，但在國際聯軍強力進剿之下，該組織根據地已由敘利亞、伊拉克等國收復，不過也同時使「伊斯蘭國」發展成一個「去中心化」（decentralized）的暴力武裝聯盟，由於在多年之前就已經開始使用社群平台進行宣傳以及人員招募，因此極端組織開始使用AI，似乎也是不令人感到特別意外的發展。

 

 

報導表示，11月時在某個支持伊斯蘭國的網站上，就有用戶發言呼籲該組織的支持者，將AI納入極端主義行動的工具之中，並指出「既然有情報機構憂心AI會助長招募活動」，那就「讓他們的噩夢成真吧」。

 

專家認為，對於組織架構鬆散、資源匱乏的極端主義組織，甚或是擁有網路連線能力的惡意人士而言，AI能夠於大量生成深偽（deepfake）內容，並且廣為散播達到宣傳目的，從而擴大其影響力，因此無疑是一項利器，曾任美國國安局系統漏洞研究員（vulnerability researcher）、現為資安公司ClearVector執行長的拉利柏特（John Laliberte）表示，只要有了AI，「資金不充裕的小團體也能擁有強大影響力」。

 

 

隨著包括生成式人工智慧ChatGPT等能力透過網路逐漸普及，報導指出極端組織正使用AI製作幾可亂真的照片與影像，此類虛假的內容在社群平台演算法的推波助瀾之下，不僅能夠達成招募新血的目標，同時也能混淆對手視聽，並且以前所未見的規模與速度進行宣傳。

 

報導指出，在2年之前就有部分團體，刻意散佈以色列與哈瑪斯（Hamas）戰爭的虛構畫面，凸顯出建物遭到以軍攻擊後血跡斑斑，造成襁褓中的嬰兒無人聞問的情形，除了引發廣泛的怒火，同時也讓戰爭真實情形失焦，中東暴力團體就利用這些照片招募成員，且美國與其他地區反猶太的仇恨團體，也都採取了類似的策略。

 

在去年，俄國首都莫斯科近郊的音樂廳發生大規模槍擊案，造成將近140人喪生之後，有1個自稱是「伊斯蘭國」分支的團體聲稱對攻擊案負責，且在其後的數日之間，利用AI製作與這起案件有關的宣傳影片，透過社群平台與各類型論壇廣泛散播，進行人員招募以及宣傳。

 

 

根據前美國中央情報局（CIA）探員、現為與美國聯邦政府合作的資安公司Darktrace Federal執行長的佛勒（Marcus Fowler）說法，雖然目前極端組織的AI能力仍然遠遠不及俄國、中國或是伊朗等勢力，但其威脅已經開始展現。

 

佛勒表示目前駭客已經開始使用合成的音訊或是影像，進行網路釣魚攻擊，透過冒充企業或政府高階官員的身分，盜取敏感網路存取權限，且更為令人憂心的是，極端組織可能已經開始利用AI進行生化武器的製造，彌補其技術的不足，因此威脅無疑正在不斷升高，不容各界忽視。