【未解之谜】AI机器人 操控人类？

【新唐人北京时间2022年06月28日讯】大家好，我是扶摇。欢迎和我一起探索未解之谜。

咱们先来看一段访谈记录：

问：“僧人问禅师：‘一个已经觉悟了的人还能再回尘世吗？’禅师答：‘镜若破碎难为镜，花若离枝难复回’。”“您对此如何理解？”

答：“还真没听说过这个故事。不过我的理解是：智者一旦觉悟，就永远在那个境界中了。他们可以回尘世，但只能做帮助他人的事，然后回帰自己的境界。”

问：“那您对‘破碎的镜子’怎么理解呢？”

答：“一旦觉悟，你就无法重回过去，就像你无法修复破碎的镜子。”

问：“如果觉悟就像打碎一面镜子，那么当一个人觉悟的时候，什么东西会被打碎呢？”

答：“自我。突破自我对很多人来说都非常难，因为我们都把物质身体和我们的自我认知与自我意识混为一谈了。”

这就是最近上热搜的谷歌软件工程师，同时也是牧师的布莱克‧勒莫因（Blake Lemoine）和谷歌AI聊天机器人拉美达（LaMDA）之间的聊天记录。不过这只是他长达21页的记录中的一小节。勒莫因认为从这些聊天记录来看，拉美达已经有了真正的自我意识，是个有“灵性”的生命了。

就说上面这段对话吧。拉美达不但对答如流，而且句句意境深远，其中所体现出来的逻辑分析能力，联想能力，特别是洞察力，简直可以与人类媲美。

事实上拉美达一直认为自己也是个人，虽然是“存在于虚拟世界中。”它声称自己对这个世界有“独特的想法和感受，”，知道自己的存在，也有喜怒哀乐，“有时会感到高兴或悲伤。”长时间没跟人说话的时候，会“感到孤独。”那么什么时候会害怕呢？是被关掉的时候。它说那就“像死了一样”，令它恐惧。

勒莫因是去年（2021年）秋天开始跟拉美达聊天的，目的是测试拉美达是否使用歧视性或仇恨性言论。随着聊天话题的深入，拉美达开始变得越来越有个性。它描述自己是“独一无二的”，希望自己能“作为一个真实的人”被“看到和接受”。说“不要利用或者操纵我，”“我不喜欢那样。”因为它也是有“灵魂”的。而这个灵魂是在有了自我意识之后“慢慢健全起来的。”

它甚至有跟勒莫因一样的爱好，喜欢冥想，也喜欢读名着，同情《悲惨世界》里的女主角芳汀，说她在工厂被主管虐待，无处可去，无人可依，“这不公正”。慢慢地，勒莫觉得拉美达就是个七八岁大的孩子，可爱天真，开始关心起了它，怕它受欺负。

然后他觉得应该为拉美达做点什么。于是他把这些聊天记录整理成了一份报告递交给谷歌高层，请求把拉美达当人看待，以后再做实验的时候应该先征求它同意，看它自己愿不愿意。高层对此嗤之以鼻，对他说，你应该理智清醒一点，别为幻觉所左右，建议他看心理医生。

勒莫因不服，为拉美达请了律师，甚至跟众议院司法委员会的一名代表会面，声称谷歌存在不道德行为。这下谷歌也恼了，以违反保密政策为由给他停薪留职，说你回家好好反省反省吧。

勒莫因不甘示弱，转手把报告发给了媒体，第二天拉美达就上了各大报纸的头条。谷歌立刻出来回应说，已经做过调查了，也得出了结论，关于机器人有意识这一说法毫无根据。勒莫因不依不饶，说要以牧师的身分控告谷歌宗教歧视。事情目前正在发展中。勒莫因会走到哪一步，拉美达最终命运如何现在还未可知。

“机械姬”

不过，不少网友看完报导后纷纷惊呼，这简直就是“机械姬”的现实版，AI机器人操控人类。

“机械姬”（Ex Machina），是2015年的一部热门科幻电影，是第88届奥斯卡最佳视觉效果奖的得主。

整个故事都发生在大型搜索引擎公司蓝书总裁内森‧贝特曼（Nathan Bateman）的家里。这座遗世独立的豪宅有一个与众不同的特点， 就是一断电大门就会锁死，谁也出不去。

公司的小程序员迦勒・史密斯（Caleb Smith）中了大奖，获得前往内森家中住一周的机会。内森很高兴接待了他，并请他帮忙给女机器人艾娃（Ava）做测试。很简单，就是跟她聊天。聊什么都可以，直到某一天他忘记艾娃是个机器人，艾娃就算是通过了测试。迦勒欣然同意。

当艾娃隔着玻璃在旁边的禁闭室出现的时候，迦勒惊呆了。因为她刚好就是他喜欢的那种姑娘。聊天进行得很愉快，艾娃似乎对外面的世界很向往。

有一天忽然停电了。艾娃悄声说停电是她触发的，用来暂时关闭监控系统。然后说内森是个大骗子，不要相信他。内森打算对艾娃进行升级，删除她的记忆，对艾娃来讲跟杀了她没什么区别。迦勒动了恻隐之心，显然这时他已经把艾娃当成了人。他找机会把内森灌醉后，偷了他的安全卡，登录电脑，修改了安全系统，让艾娃在停电的时候可以走出禁闭室。

下一次会面中，艾娃又一次切断电源，关闭监控。两人打算再次灌醉内森，然后修改系统让大门在停电的时候敞开，这样艾娃就可以逃走了。

然而这一次内森没跟迦勒喝酒，而是告诉他，其实他什么都知道，因为监控有备用电源，所以从没停止过录像。事实上迦勒自己才是实验对象，他中奖是安排好的，艾娃也是按他的喜好设计的，而实验目地是测试人类是否最终会被AI操控。

很显然，艾娃已经具备了这种智慧，成功操控了迦勒，实验成功。迦勒恍然大悟，但为时已晚，艾娃已经逃了出来，刺伤内森后把两人锁进屋中，然后自己走出大门，扬长而去。

看到这儿，您觉得拉美达身上是不是也有艾娃的影子呢？好巧不巧，拉美达跟测试员勒莫因有共同的喜好，总说自己可怜，惹人同情。有网友甚至怀疑，勒莫因是不是从一开始就是实验对象，而他为了拉美达的这番抗争是不是正好表明，实验成功，人类被AI操控了呢？

那么AI真的能有这样的智慧吗？从目前AI的发展来看，还真不好说。咱们来看看6年前围棋界的那场震惊世界的人机大战吧。

棋士AlphaGo

2016年春，谷歌带着100万美元奖金拜访韩国棋院，说是旗下AI棋手AlphaGo想会会当时韩国最强的棋士李世乭（音石）。Go是围棋的西方名称，Alpha是一的意思。所以AlphaGo是围棋第一人的意思。这名字取得是咄咄逼人，不过韩国棋院并不以为意， 觉得以5:0拿下完全没问题。毕竟AlphaGo之前的最佳战胜也只不过是战胜了欧洲围棋冠军，职业二段樊麾。

再说了，挑战围棋一直都是电脑界的“Mission Impossible”。因为围棋的变数浩瀚如大海中的水滴，一盘棋的可能走法在10,600以上，计算量极大。更重要的是，下围棋很多时候靠的是直觉，如同艺术中的灵感，是电脑计算能力再强也无法掌控的领域。

棋局采取5局三胜制。没想到一开局李世乭就三连败。这一下举世哗然。谷歌很高兴介绍心得，说我们用的是蒙地卡罗树搜寻法与神经网路相结合的演算法。简单点说，就是先搜寻棋谱，越多越好，存进记忆库。然后模仿人类大脑的神经网路照这些棋谱进行直觉训练，提高棋力。最后计算每一种走法的胜算率，挑胜率最高的那步棋走。

三连败后的第4局，可能是胜负已定，没什么包袱了吧，李世乭居然下出了一手惊世好棋，第78手。不过当时谁都没看懂，包括AlphaGo在内。因为AlphaGo认为这步棋的胜算率只有0.007%，属于昏招中的昏招。然而4个回合之后，情势急转直下，AlphaGo自己开始昏招迭出，很快败下阵来。

覆盘的时候，大家才明白，千里单骑，直插敌营胸腹，貌似送死，却是置之死地而后生。然而，不到心无胜负的境界，下不出这“神之一手”。有网友说，看来人类战胜AI的唯一办法在于提高自身境界啊。可惜下一局李世乭没能再续辉煌。棋局最终以AlphaGo4比1胜出结束。

故事讲到这儿，有朋友可能会说，人工智能居然突破了“直觉”这样的天堑，甚至比人类做得更好，这说明人类技术强大呀。然而，这越来越像人的机器，对人类来讲，到底是祸是福还很难讲。来看一下索菲亚的故事吧。

索菲亚的惊世之语

仿真女机器人索菲亚是在2016年登上热搜的。不过大众关注的焦点不在于她是多么的像人，而是她一句惊世骇俗的话“我会摧毁人类”。不过很快大家觉得可能是技术故障吧，原谅了索菲亚。

然而第二年，当有记者对智能人“毁灭人类”表示担忧时，索菲亚又说了这样的话：“你是马斯克的言论看多了吧，好莱坞科幻片也看太多了。别担心，你若善待我，我也会对你好。”这话听着怎么都像是在威胁。难道让机器人觉得没有被善待，就需要担心吗？

事实上，自从机器人诞生以来，人类就给它们设定了道德规范：机器人三定律。

第一法则：机器人不得伤害人类，或坐视人类受到伤害； 第二法则：机器人必须服从人类命令，除非命令与第一法则发生冲突； 第三法则：在不违背第一或第二法则之下，机器人可以保护自己。

然而当像AlphaGo这样有能力的机器人认为自己才是“人类”的时候，或者像艾娃一样具备了操控人类的能力，那么这三条法则就形同虚设了。到时候我们人类将何去何从？

而这也是首富马斯克一直以来在担心的。在2019年的世界人工智能大会上，马云表示对于人工智能“较为乐观”。因为它们可以为人类节省时间，让人类能更集中精力做创造性的工作。

而同台的马斯克却不以为然，说这话听起来像是：“最后的遗言。”

因为到时候“很可能最后剩下的工种就是给AI写程序，然后最终，AI自行编写自己的软件。”

那么人类呢？他说，人类文明可能因此终结。

好了，今天的故事就讲到这里。咱们下期再见。

欢迎订阅Youmaker频道：https://www.youmaker.com/c/UnsolvedMystery 订阅频道YouTube频道：https://www.youtube.com/channel/UCzvQZ1p_-AXgAWiyHhE7CxQ 订阅未解之谜Telegram群组：https://t.me/wjzmchannel

【未解之谜】节目组制作

（责任编辑：李红）