【新唐人快報】AI帳號自露馬腳:中共企圖干預美大選

2024年08月16日時政
【新唐人北京時間2024年08月17日訊】8月13日(週二),總部在澳洲坎培拉的Cyber​​CX網路安全公司發布報告,揭露中共利用生成式AI虛假帳號,對美國、澳洲、日本等民主國家發起認知戰。報告稱,這是迄今為止在X平台上規模最大的一次活動。
報告指出,該公司發現了一個由至少5,000個虛假帳號組成的「資訊戰」網絡。這些AI帳號集中針對美國總統大選等政治和文化熱點事件進行評論,試圖在這些國家中引發意見分歧。
Cyber​​CX公司的總監向美國之音透露,這些被稱為「綠蟬網絡」的虛假帳號企圖抹黑民主國家,並加劇其內部矛盾。該公司注意到,這些帳號在多次推文中自曝其「人工智慧(AI)模型」身分,從而引起他們的關注。
專家表示,這些不經意間洩露的訊息暴露了生成式AI帳號的技術缺陷,並顯示有人在指揮這些帳號攻擊包括美國第一夫人吉爾·拜登(Jill Biden)在內的民主國家政治人物。然而,這些指示顯然遭到了機器人帳號的抵制,可能違背了帳號設計時的原則。
此外,報告揭示,這些帳號並未針對特定話題,而是利用爭議和熱門議題來強化人們的意見分歧。
例如,一個名為「Luther Randolph」的虛假帳號在8月8日發文支持前總統川普遇刺未遂案未獲媒體關注,然而兩天後又發文支持川普的競爭對手、副總統賀錦麗(Kamala Harris)。
Cyber​​CX公司指出,目前尚不清楚「綠蟬網絡」是否由中共政府創建,但該AI網絡系統與中共政府有密切聯繫。
公司執行總監凱瑟琳·曼斯泰德(Katherine Mansted)告訴美國之音說,這些帳戶背後的大型語言模型系統是一個中文系統,並特別引用了中共政府的原則。
她還透露,這些虛假帳號的一個共同特徵是,它們與一名中國清華大學計算機科學系博士畢業生、現任中國智譜AI研究員的X平台帳號有頻繁互動。
目前,這個「綠蟬網絡」還處在蟄伏狀態,報告指出,絕大多數帳號並未「發威」,生成內容也很容易識破,但這個網絡具備很大的提升能力。
曼斯泰德補充說:「這類AI生成或控制的網絡啟動成本極低,無需大量人力即可運行。只需一兩個人設定系統,它就能快速擴展並造成破壞。」
《新唐人快報》製作組
(責任編輯:劉明湘)