AI教父:AI或寻求推翻人类 未来充满不确定性

2023年07月02日科技
【新唐人北京时间2023年07月02日讯】被称为“人工智慧教父”的加拿大学者辛顿,在一场研讨会上警告,AI可能会夺取人类的控制权,未来充满不确定性;他也说,使用AI的战争机器人,不必承担损失本国公民的生命风险,也可能会导致大国更倾向于发动战争。
多伦多大学计算机科学教授 辛顿(Geoffrey Hinton):“从一个概括的层面来讲,如果你有一个东西比你聪明很多,而且它很会操纵人,你有信心人们一直能保持掌控吗?然后你可以想像一些特定的场景,人们是怎么失去控制的。”
在2019年曾经获得“图灵奖(Turing Award)”的辛顿,最近十年帮助谷歌开发人工智慧系统,被称为“人工智慧教父”却在今年5月离职。辛顿表示,他需要警告大家人工智能的风险。
多伦多大学计算机科学教授 辛顿:“一个很明显的场景是,如果你被指派一个目标,而且你要非常擅长达成它,你会需要的是,尽可能多的控制权。”
另外一个致命的场景,则是AI被作为武器使用,成为战争工具。
多伦多大学计算机科学教授 辛顿:“我知道他们将制作战争机器人,许多不同的国防单位都在如火如荼地制作。它们(人工智能)不必要是好的,因为它们的主要目的是杀人。”
辛顿表示,当越来越多的无人战争机器被制造,大国就更会倾向发动战争,因为不会有丧失本国公民生命的风险。
多伦多大学计算机科学教授 辛顿:“入侵穷国的障碍在于,就是你会有一些死去的公民回家。如果死掉的只是一些机器人,那就不成问题。军工企业集团会爱上这个。”
辛顿认为最好的方式,就是全球建立类似《日内瓦公约》(Geneva Convention)的人工智能武器限制,但遗憾的是,类似的条约总是要等到灾难发生之后,才会被建立。辛顿呼吁,不管政府会不会对人工智能采取管制,大家都要意识到人工智能正在给人类带来威胁。
新唐人亚太电视江子扬编译