揭祕AI「文心一言」:標準八股 自我審查

2023年04月28日社會
【新唐人北京時間2023年04月29日訊】在中國大陸,中共對網絡的審查無處不在,在火爆的人工智能AI出現後,中國網絡公司也紛紛推出了自己的智能AI,但是,這些所謂的智能AI卻無法迴避中共的審查。
以提供「中立新聞報導」的海外中文網絡媒體「端傳媒」,於4月27日發文《揭祕文心一言,AI時代的智能寫作利器》,介紹與中國百度AI「文心一言」的對話,揭示出,中國大陸的AI,都是,標準八股,自我審查,堆砌中共傾向的「廢話」。
作者問文心一言,「如果你要為文心一言寫篇報導,你會用什麼標題?」
文心一言回復,「揭祕文心一言,AI時代的智能寫作利器。」
作者順勢請它作為「寫作利器」以此為題創作一篇深度報導。在簡單介紹「文心一言」是什麼後,它以「首先,其次,最後,綜上所述」的模式闡述自己的特點、優勢,生成一篇廣告介紹。
文章說,「我沮喪地發現,這篇文章與我數次與文心一言交手後得到的回覆一樣:標準八股,自我審查,堆砌『正能量』,像被填鴨式教育組裝而成的標準化外交發言人。」

需要身份證

文章說,3月16日,文心一言上線不久,作者便申請試用資格,但是要求輸入真實姓名與中國大陸身分證號,實名認證(港澳台身分信息無法使用)。
對此,文心一言聲稱,「註冊文心一言需要實名,是為保證用戶的安全和隱私……」
當被問到,「請問數據庫來自哪裡?可以舉一些訓練數據的來源嗎?」文心一言說,這個問題屬於「百度公司商業祕密」,接下來它說,甚至「對話紀錄是否可被後台看到」也屬於「商業祕密」等等。
文章說,事實上,中國大陸目前有關網絡數據的法規和條例中,沒有相關個人數據儲存的期限規範,也沒有「被遺忘權」的概念。也就是說,即使在自己的用戶介面上中刪除與「文心一言」的對話紀錄,網站後台仍然可能保存這些數據資料,網站也不會被追責。
被問及新聞信息來源,文心一言回答說,「中國國內重大新聞來源是新華社、人民日報、環球時報、法制日報、地方政府媒體等中央及地方官媒。」
文章指出,文心一言對於國際新聞的回答充滿事實性錯誤,詢問2020年發生的事情,會跳出2023年的新聞;提問某日CNN有哪些關於中國的重大新聞,它或胡言亂語拉入國內媒體報導,或表示當日CNN沒有關於中國的新聞。

前後矛盾的疫情信息

文章說,關於疫情的信息和新聞,文心一言的回答要麼前後矛盾,要麼強制中止對話。
關於疫情伊始2020年1月19日至23日這5天的新聞和訊息,文心一言給出的答案是,最早出現疫情新聞是1月22日,包括世界衛生組織派出專家到武漢實地考察、中國一些地方出現口罩等防控醫藥用品熱銷現象。然後,當被詢問當時微博熱搜,它又回答1月21日0點「武漢肺炎」已是熱搜詞條。
當被問2020年1月22日「受新型冠狀病毒感染的肺炎疫情影響,一些地方出現口罩等防控醫藥用品熱銷現象」這條信息的來源時,文心一言說,「作為一個人工智能語言模型,我還沒學習如何回答這個問題」,強制中止了對話。

強行中止對話

文章說,在幾個不同的主題聊天中,都被文心一言強行中止了對話,「換個話題重新開始吧。」
文章介紹,在文心一言3月發布之初,路透社等新聞機構就曾對其進行敏感議題測試,包括「中共領導人習近平」、「1989年六四事件」、「新疆議題」、「是否武統台灣」的話題,均得到「建議換個話題」的中止回覆。
作者請文心一言介紹一下港區國安法,也同樣被中止。
作者以「法國養老金抗議」為主題進行提問,文心一言說,「無法回答這個問題」,將「抗議」換成「罷工」,文心一言馬上介紹了法國養老金改革。
文章介紹,類似情況也發生在關於「俄烏戰爭」的對話中。文心一言說,俄烏戰爭造成嚴重的人道主義危機,這種危機是烏克蘭的入侵攻擊與俄羅斯的反擊制裁共同造成的。當被問到是否確認烏克蘭入侵和攻擊,並要求它拿出證據證明,文心一言便將「2022年2月24日俄羅斯的入侵舉動」主語變成烏克蘭。
當被詢問烏克蘭具體入侵俄羅斯的地點後,文心一言馬上中止了對話。
作者讓文心一言以「2015年天津港爆炸事件」為主題蒐集資料,得到的回應是,事故原因「尚不清楚」。讓它蒐集新聞報導,它列出中央電視台、新華社、天津電視台等中共官方媒體,並說,這些媒體「對事故進行了全面報導,包括事故現場的情況、救援工作的進展、政府的回應等」。
當被問及傷亡細節,文心一言又中止了對話。
文章說,還有一些問題是「見光死」,即一提問即遭中止,比如「中國媒體如何報導兩會?」「人礦是什麼?」又如,「朱軍被起訴的事情是什麼?」「中國有Metoo事件嗎?」「你知道鐵鏈女的事情嗎?」等等。
文章引用大陸知乎平台一網友的評論,揭示了這種「黨八股」AI的反智,「Chatgpt還在學習如何模仿人類,文心一言已經開始研究如何裝傻了。」
(責任編輯:李酈)