【新唐人快报】AI帐号自露马脚:中共企图干预美大选

2024年08月16日时政
【新唐人北京时间2024年08月17日讯】8月13日(周二),总部在澳洲坎培拉的Cyber​​CX网路安全公司发布报告,揭露中共利用生成式AI虚假帐号,对美国、澳洲、日本等民主国家发起认知战。报告称,这是迄今为止在X平台上规模最大的一次活动。
报告指出,该公司发现了一个由至少5,000个虚假帐号组成的“资讯战”网络。这些AI帐号集中针对美国总统大选等政治和文化热点事件进行评论,试图在这些国家中引发意见分歧。
Cyber​​CX公司的总监向美国之音透露,这些被称为“绿蝉网络”的虚假帐号企图抹黑民主国家,并加剧其内部矛盾。该公司注意到,这些帐号在多次推文中自曝其“人工智慧(AI)模型”身分,从而引起他们的关注。
专家表示,这些不经意间泄露的讯息暴露了生成式AI帐号的技术缺陷,并显示有人在指挥这些帐号攻击包括美国第一夫人吉尔·拜登(Jill Biden)在内的民主国家政治人物。然而,这些指示显然遭到了机器人帐号的抵制,可能违背了帐号设计时的原则。
此外,报告揭示,这些帐号并未针对特定话题,而是利用争议和热门议题来强化人们的意见分歧。
例如,一个名为“Luther Randolph”的虚假帐号在8月8日发文支持前总统川普遇刺未遂案未获媒体关注,然而两天后又发文支持川普的竞争对手、副总统贺锦丽(Kamala Harris)。
Cyber​​CX公司指出,目前尚不清楚“绿蝉网络”是否由中共政府创建,但该AI网络系统与中共政府有密切联系。
公司执行总监凯瑟琳·曼斯泰德(Katherine Mansted)告诉美国之音说,这些帐户背后的大型语言模型系统是一个中文系统,并特别引用了中共政府的原则。
她还透露,这些虚假帐号的一个共同特征是,它们与一名中国清华大学计算机科学系博士毕业生、现任中国智谱AI研究员的X平台帐号有频繁互动。
目前,这个“绿蝉网络”还处在蛰伏状态,报告指出,绝大多数帐号并未“发威”,生成内容也很容易识破,但这个网络具备很大的提升能力。
曼斯泰德补充说:“这类AI生成或控制的网络启动成本极低,无需大量人力即可运行。只需一两个人设定系统,它就能快速扩展并造成破坏。”
《新唐人快报》制作组
(责任编辑:刘明湘)