「定力不夠」 AI機器人詆毀自家快遞公司

2024年01月22日社會
【新唐人北京時間2024年01月22日訊】隨著人工智能(AI)的發展,許多公司引進AI機器人,以提高工作效率,國際快遞行業的領導者DPD UK也不例外,但使用體驗並不愉快,AI聊天機器人詆毀該公司並咒罵客戶。
30歲的音樂家阿什利·博尚(Ashley Beauchamp)試圖尋找丟失的包裹,但他從DPD公司AI聊天機器人那裡沒有獲取任何有用信息。他受夠了,決定找點樂子,並嘗試看看聊天機器人能做什麼。博尚表示,這就是「混亂開始」的時候。
一開始,他要求聊天機器人給他講一個笑話,之後,他讓聊天機器人寫一首批評DPD公司的詩。接受幾次提示後,聊天機器人宣布DPD是「世界上最糟糕的送貨公司」,並寫道,「我永遠不會向任何人推薦它。」
博尚在X上分享了這段對話,其中聊天機器人回覆了一條消息:「TMD,耶!我會盡力提供幫助,即使這意味著咒罵。」
在另一個例子中,聊天機器人稱自己為「無法提供幫助的無用聊天機器人」。
DPD在其在線聊天中使用人工智能機器人來回答查詢,就像人工操作員一樣。該公司表示,聊天機器人行為異常的原因是系統更新「故障」。
「我們在聊天中成功運行人工智能元素已有多年」,DPD公司表示,「昨天系統更新後出現錯誤。AI系統立即被禁用,目前正在更新。」
博尚表示,雖然他與聊天機器人的冒險談話「非常有趣」,但這次交流也暴露了嚴肅的問題。
「這些聊天機器人本應改善我們的生活,但如果實施不當,往往只會給用戶帶來更令人沮喪、非人性化的體驗」,他說,「我認為這確實引起了人們的共鳴。」
博尚帖子在發布24小時內獲得了80萬次瀏覽。至於他的包裹,DPD表示正在與他聯繫以「解決他的問題」。
其它公司在使用AI聊天機器人方面也面臨著類似的挑戰。在此事件發生之前,上個月,一家汽車經銷商的聊天機器人同意以1美元的價格出售一輛雪佛蘭。
加利福尼亞州的音樂家兼軟件工程師懷特(Chris White)考慮購買一輛新車。「我在沃森維爾雪佛蘭經銷商網站上查看了一些Bolt,他們的小聊天窗口出現了,我看到它是『由ChatGPT提供支持』.」懷特告訴Business Insider。
「所以我想看看它有多全面,我問了我能想到的有關雪佛蘭沃森維爾的問題。」他說。
他要求聊天機器人為他編寫一個Pytho 腳本,聊天機器人很高興地答應了。其他人則利用聊天機器人,使其做出違背經銷商利益的行為。一名用戶讓機器人同意以1美元的價格出售一輛汽車。
為汽車經銷商銷售營銷和銷售軟件的科技公司Fullpath的首席執行官霍維茨(Aharon Horwitz)和他的團隊迅速關閉了該特定經銷商網站的機器人。
Fullpath總部位於佛蒙特州和以色列,大約六個月前開始提供由ChatGPT驅動的聊天機器人。霍維茨告訴BI,他估計有數百名經銷商正在使用聊天機器人。
霍維茨表示,儘管有一些有趣的聊天機器人故事在網上瘋傳,但引誘它們失敗的案例要多得多。有很多人試圖刺激聊天機器人做出不當行為,但聊天機器人抵制了。他還指出,聊天機器人從未透露過經銷商的任何機密數據。
(記者李昭希綜合報導/責任編輯:林清)