賓州女大學生「臉被盜」 在中國社交平台賣俄貨

2024年03月26日社會
【新唐人北京時間2024年03月26日訊】近年來,深偽(Deepfake)技術快速發展,利用人工智能(AI)虛擬複製的真人圖像往往能夠以假亂真,基本「與世隔絕」的中國網絡這種現象尤為嚴重,許多西方女性成為受害者。
20歲的賓州大學生奧爾加·洛伊克(Olga Loiek)去年11月開設了一個YouTube頻道,後來遭到不明人士攻擊,在中國網絡上被Deepfake。
一天早晨,洛伊克剛剛醒來,在Instagram上看到了一條神祕的信息。
「你會說普通話嗎?」它用英文寫道。
幾週前,洛伊克也從自稱她的YouTube頻道粉絲那裡收到了類似的信息,她的頻道有超過1.5萬名訂閱者。令人困惑的是,其中一些評論讚揚了她的中文。
洛伊克告訴「商業內幕」(Business Insider),她根本不會說中文。但1月下旬她收到一條警告評論說,有人可能正試圖冒充您。
該評論包含一個小紅書(中國社交平台,類似於Instagram)視頻的鏈接,這段視頻顯示,洛伊克用中文對著鏡頭說話,屏幕上出現俄羅斯領導人普京的照片。
「一開始,我覺得『哦,這只是一個有趣的把戲』。但後來我開始翻譯它」,洛伊克說,視頻中笑容滿面的女子一邊在商店頁面上銷售俄羅斯產品,一邊談論中俄關係,並哀嘆對莫斯科的制裁。
賓州女大學生「臉被盜」 在中國社交平台賣俄貨
賓州女大學生「臉被盜」,Deepfake假冒者在小紅書上賣俄羅斯糖果,讚美中國好,俄中是好兄弟。(小紅書娜塔莎帳戶的視頻截圖)
對於烏克蘭人洛伊克來說,這是令人無法容忍的。「我感到受到了侵犯,因為那些是我一生中永遠不會說的話。」她說。
「這太令人毛骨悚然了,因為我真的看到我的臉在談論我永遠不會寬恕的事情。」她補充說。
對於中國大約10.8億互聯網用戶來說,YouTube和Instagram被屏蔽,一些國際社交平台被中國版本替代,WhatsApp和Facebook被微信替代,X——微博,TikTok——抖音,Instagram——小紅書。
中國的社交媒體在很大程度上與世界脫節,Deepfake被濫用已被記錄多年。在這些中國平台上,外國女性的Deepfake往往不會被發現,因為觀眾不太容易認出真人。與此同時,創作者不太可能發現自己的臉被盜,因為她們通常不會訪問中國平台。
「在『開放世界』的社交媒體環境中,當某人的Deepfake出現時,我們可以很容易地證明這不是真的,因為我們可以找到本人」,紐約州立大學布法羅分校負責媒體取證實驗室的計算機科學教授呂思偉(Lyu Siwei)說,「但在中國境內,由於中國用戶跨越防火牆並不容易,他們無法進行交叉驗證。」
呂思偉和另一位人工智能研究員、聖克拉拉大學的盧海斌(音譯)告訴Business Insider,在過去的6個月裡,他們在抖音(中國版TikTok)等中國平台上觀察到了對女性的Deepfake。
他們說,洛伊克的案例表明,至少其中一些Deepfake是未經同意的。
小紅書上洛伊克的Deepfake帳戶被描述為娜塔莎(Natasha),是一名31歲的俄羅斯女性,居住在中國黑龍江省。該帳戶有1.4萬名關注者,該帳戶推銷俄羅斯糖果,附加的商店頁面顯示,每包糖果3.60美元。
洛伊克在賓夕法尼亞大學學習認知神經科學,現在在德國實習,她不確定為什麼她的臉被小紅書帳戶選上。
洛伊克在1月下旬上傳的YouTube視頻中要求她的關注者幫助舉報小紅書的「娜塔莎」帳戶。該帳戶於2月25日從小紅書上消失。
雖然「娜塔莎」消失了,但其它同樣帶有洛伊克頭像的帳戶又出現了。洛伊克說,她在小紅書上發現了大約30個其它帳戶,這些帳戶都使用她的臉並自稱是俄羅斯人。
在大約10分鐘裡,Business Insider就在小紅書上發現了至少5個白人女性的Deepfake視頻。在所有這些視頻中,Deepfake假冒者都在讚揚俄羅斯和中共。
卡內基梅隆大學數字媒體教授萊特曼(Ari Lightman)表示,由於在AI問題上尚未達成國際協議,即使找到了中國的罪魁禍首,外國受害者也很難提起訴訟。
(記者李昭希綜合報導/責任編輯:林清)