「ChatGPT之父」國會作證 籲政府對AI研發加強監管

2023年05月18日美國時政
【新唐人北京時間2023年05月18日訊】日前,OpenAI首席執行官薩姆·奧特曼在美國國會舉行的聽證會上作證時,被問及他對人工智能最擔心的事情。奧特曼沒有正面回應,但呼籲政府加強對人工智能的監管,因為一旦AI技術出了問題,就可能對世界造成重大傷害。
星期二(5月16日),被稱為「ChatGPT之父」的奧特曼(Sam Altman)出席了美國國會參議院舉行的一場聽證會。
在聽證會現場,參議院司法委員會的隱私、技術和法律小組委員會主席布盧門撒爾(Richard Blumenthal)一開場就播放了一段預先錄製的演講。錄音聽起來很像布盧門撒爾本人發表的演講,但實際上,那只是ChatGPT模仿布盧門撒爾的語音生成的一段音頻作品。
以此為契機,布盧門撒爾表示,面對人工智能技術的爆炸性增長,以及可能由此對社會產生的嚴重影響,人工智能迫切地需要規則和措施。布盧門撒爾還表示,應該要求人工智能公司在公布相關技術前,測試他們的系統並披露已知的風險,
「這不再是科幻小說的幻想,它們已經真實的存在。」布盧門撒爾強調,合理的監管保障不會與創新對立。
對於AI技術的飛速發展可能給人類社會帶來的威脅,不少議員都表達了不同程度的擔憂。其中,共和黨籍參議員喬希·霍利(Josh Hawley)形容說,「這就像是原子彈,巨大的技術突破帶來的後果也可能是嚴重且可怕的。」
奧特曼則在聽證會作證時表示,隨著AI技術的進步,與其他人一樣,從事人工智能開發的公司,也對AI會如何改變我們的生活方式感到焦慮。奧爾特曼表示,他支持對人工智能技術進行監管,在利用人工智能的同時,最大限度地減少危害。
他當場提議成立一個美國或全球機構,如果有公司想開發強大的人工智能系統,應該獲得這個機構頒發的許可證,而且政府應該有權取消該許可證,以「確保這些公司遵守安全標準」。
奧特曼還建議美國政府建立一套安全標準,特定的測試模型,必須通過這些標準才能部署,同時允許獨立審計人員在模型啟動前進行檢查。
他甚至坦言,人工智能行業的技術發展一旦出了問題,可能就會是大問題。
當被問及「如果國會不對技術進行監管,人工智能會多快具有『自我意識』」時,奧特曼回答說:「將GPT視為一種工具而不是一種生物很重要,人們不應該試圖將人工智能擬人化。」
議員們還提到生成式AI技術帶來的市場壟斷問題,少數公司將可能擁有數據和基礎設施結合的能力,可以掌控人工智能生成的全鏈條,這可能使得少數公司收穫更大的經濟利益。但這方面的問題,並沒有得到很好的解答。
此外值得一提的是,就在參議院舉行聽證會的當天,特斯拉CEO馬斯克在接受媒體採訪時再次批評OpenAI在確保AI安全性方面做得不到位,他同時敦促美國政府加強對人工智能的監管。
上個月,馬斯克在接受媒體採訪時曾直言:「人工智能比管理不善的飛機設計或維護糟糕的汽車生產更危險,它有可能破壞文明。」
計算機科學家傑弗裡·辛頓(Geoffrey Hinton)本月宣布離開谷歌。在過去的十多年裡,他一直在幫助谷歌開發AI技術,但現在的辛頓卻成為了人工智能的「末日預言者」。
辛頓也公開表達了對人工智能技術的「未來版本」可能對人類構成威脅的擔憂。他表示,AI經常會從分析大量數據中學習到人們意想不到的行為。
(記者黎明綜合報導/責任編輯:文慧)