号称应对AI诈骗 中共实际更热衷政治维稳

2023年06月10日社会
【新唐人北京时间2023年06月11日讯】在人工智慧(AI)监管方面,中共快速出台了多项政策,但是使用AI深度伪造技术“换脸”“换声”的诈骗事件在中国反而愈加多发。外界分析认为,中共对深度伪造技术的监管重点在于政治维稳,而不是欺诈等民生安全问题。
今年4月大陆福州新闻网曾报导,福州一家科技公司的老板被骗子使用AI“换脸”冒充其朋友骗去430万元,幸亏及时发现通知银行,拦截下336.84万元。
这一报导引起了国际专家的关注。美国之音引述专家的话说,深度伪造诈骗世界各地都有,但中国的深伪视频诈骗似乎技高一筹。
亚利桑那州立大学计算机学院教授苏巴劳.卡姆巴哈帕蒂(Subbarao Kambhampati)说,在美国电话诈骗主要通过克隆语音,中国的骗子显然已经从语音克隆转向视频通话,这令他感到惊讶。
卡姆巴哈帕蒂说:“单独用音频骗人是很容易的,但是如果是音频加视频,就更难一些。”“一般来说,处理视频要困难得多,我们看(AI视频中的)人脸时,会下意识地通过他们的面部表情,观察他们与我们通常看到的不完全一样的地方。”“但显然(中国)能够做到。”
这种融合视觉、听觉、触觉等多感官、模拟出计算机虚构场景的模型构造,是当下人工智慧发展的一个重要发展领域,被称为“多模态”(multimodality)AI。专家说,AI诈骗的形态未来将更能以假乱真。
根据SumSub公司5月发布的统计,与去年同期相比,2023年第一季度深度伪造诈骗占全部诈骗数量的比例在美国从0.2%上升到2.6%,在加拿大从0.1%上升到4.6%。在英国、德国、意大利等欧洲国家,“深伪”诈骗在全部诈骗所占比例都超过了5%。
6月4日《华尔街日报》报导说,最近几周中共各地政府开始纷纷打击人工智慧聊天机器人产生的虚假信息,许多虚假信息通过编造之前引发舆论热议的社会安全事件赚取点击量。
有分析认为,中共AI法规的执行把主要精力放在对AI内容的政治审查,以维稳优先,而打击欺诈被放在次要位置。
中共新实施的对“深度合成”的管理规定,首先规定的是禁止所谓“危害国家安全和利益、损害国家形象”的相关活动。
在5月份,“AI诈骗正在全国爆发”的话题标签曾在大陆微博冲上热搜,但不久后再搜索这个话题,结果显示“根据相关法律和法规和政策,搜索结果未予显示”。这说明,这一话题已被中共当局审查压制。
新美国安全中心(Center for aNew American Security)技术与国家安全副研究员比尔.德雷克塞尔(Bill Drexel)说,中共当局不让公众讨论AI诈骗,说明中共政府的AI监管和执法动机是扭曲的。
德雷克塞尔表示:“与诈骗相比,它们应对政治威胁的动力更强。它们总体可能会在这个方向上分配更多的资源。所以从这件事中可以看到,一旦中国公众担心人工智慧欺诈行为,它们(中共)就开始进行审查压制。”
他说:“这一事实表明,他们最终关心的是在政治上掩护自己,而不是解决欺诈问题。”
(责任编辑:李郦)