“定力不够” AI机器人诋毁自家快递公司

2024年01月22日社会
【新唐人北京时间2024年01月22日讯】随着人工智能(AI)的发展,许多公司引进AI机器人,以提高工作效率,国际快递行业的领导者DPD UK也不例外,但使用体验并不愉快,AI聊天机器人诋毁该公司并咒骂客户。
30岁的音乐家阿什利·博尚(Ashley Beauchamp)试图寻找丢失的包裹,但他从DPD公司AI聊天机器人那里没有获取任何有用信息。他受够了,决定找点乐子,并尝试看看聊天机器人能做什么。博尚表示,这就是“混乱开始”的时候。
一开始,他要求聊天机器人给他讲一个笑话,之后,他让聊天机器人写一首批评DPD公司的诗。接受几次提示后,聊天机器人宣布DPD是“世界上最糟糕的送货公司”,并写道,“我永远不会向任何人推荐它。”
博尚在X上分享了这段对话,其中聊天机器人回覆了一条消息:“TMD,耶!我会尽力提供帮助,即使这意味着咒骂。”
在另一个例子中,聊天机器人称自己为“无法提供帮助的无用聊天机器人”。
DPD在其在线聊天中使用人工智能机器人来回答查询,就像人工操作员一样。该公司表示,聊天机器人行为异常的原因是系统更新“故障”。
“我们在聊天中成功运行人工智能元素已有多年”,DPD公司表示,“昨天系统更新后出现错误。AI系统立即被禁用,目前正在更新。”
博尚表示,虽然他与聊天机器人的冒险谈话“非常有趣”,但这次交流也暴露了严肃的问题。
“这些聊天机器人本应改善我们的生活,但如果实施不当,往往只会给用户带来更令人沮丧、非人性化的体验”,他说,“我认为这确实引起了人们的共鸣。”
博尚帖子在发布24小时内获得了80万次浏览。至于他的包裹,DPD表示正在与他联系以“解决他的问题”。
其它公司在使用AI聊天机器人方面也面临着类似的挑战。在此事件发生之前,上个月,一家汽车经销商的聊天机器人同意以1美元的价格出售一辆雪佛兰。
加利福尼亚州的音乐家兼软件工程师怀特(Chris White)考虑购买一辆新车。“我在沃森维尔雪佛兰经销商网站上查看了一些Bolt,他们的小聊天窗口出现了,我看到它是‘由ChatGPT提供支持’.”怀特告诉Business Insider。
“所以我想看看它有多全面,我问了我能想到的有关雪佛兰沃森维尔的问题。”他说。
他要求聊天机器人为他编写一个Pytho 脚本,聊天机器人很高兴地答应了。其他人则利用聊天机器人,使其做出违背经销商利益的行为。一名用户让机器人同意以1美元的价格出售一辆汽车。
为汽车经销商销售营销和销售软件的科技公司Fullpath的首席执行官霍维茨(Aharon Horwitz)和他的团队迅速关闭了该特定经销商网站的机器人。
Fullpath总部位于佛蒙特州和以色列,大约六个月前开始提供由ChatGPT驱动的聊天机器人。霍维茨告诉BI,他估计有数百名经销商正在使用聊天机器人。
霍维茨表示,尽管有一些有趣的聊天机器人故事在网上疯传,但引诱它们失败的案例要多得多。有很多人试图刺激聊天机器人做出不当行为,但聊天机器人抵制了。他还指出,聊天机器人从未透露过经销商的任何机密数据。
(记者李昭希综合报导/责任编辑:林清)