【新唐人北京时间2024年03月13日讯】近年来，全球人工智能（AI）技术加速发展，国际领先企业加大投入，业界也在增加投资，看好其发展前景。然而，一份新报告警告，快速发展的人工智能可能带来“灾难性”的国家安全风险，美国政府必须尽快干预。
Gladstone AI本周发布的报告指出，在最坏的情况下，最先进的AI系统可能“对人类构成灭绝级的威胁”。该结论基于一年多来对200多人的采访，其中包括领先人工智能公司的高管、网络安全研究人员、大规模杀伤性武器专家以及政府内部的国家安全官员。
美国国务院一位官员向CNN证实，这份报告是由国务院委托编写的。不过，该官员强调，此报告并不代表美国政府的观点。
最新报告再次提醒人们，尽管人工智能的潜力不断吸引投资者和公众，但也存在真正的危险。
Gladstone AI首席执行官兼联合创始人哈里斯（Jeremie Harris）3月12日告诉CNN：“人工智能已经成为一项经济变革技术。它可以帮助我们治愈疾病、做出科学发现并克服我们曾经认为无法克服的挑战。”
“但它也可能带来严重的风险，包括我们需要意识到的灾难性风险”，他说，“越来越多的证据——包括在世界顶级人工智能会议上发表的实证研究和分析表明，一旦超过一定的能力临界值，人工智能可能会变得不可控。”
研究人员警告说，人工智能主要存在两大核心危险。首先，Gladstone AI公司表示，最先进的人工智能系统可以被武器化，这可能造成潜在的不可逆转的损害。
“人工智能和通用人工智能（AGI）的兴起可能破坏全球安全，就像核武器被引入一样”，报告补充说，存在人工智能“军备竞赛”、冲突和大规模杀伤性武器的致命事故的风险。
最大的变数之一就是AI的演化速度，特别是AGI，AGI又称“强人工智能”（Strong AI），是指具备与人类同等智慧或超越人类智慧的人工智能。
报告称，AGI被视为导致失控并引发灾难性风险的“主要驱动因素”，并指出，尽管其他人认为AGI还很遥远，但OpenAI、Google DeepMind、Anthropic和Nvidia都曾公开表示，可能会在2028年达到AGI。
其次，人工智能实验室研究人员担心，在某个时候，他们正在开发的AI系统可能会失控，从而“可能对全球安全造成毁灭性后果”。
报告强调，竞争压力正促使企业“以牺牲安全为代价”加速人工智能的开发，这增加了先进人工智能系统被“窃取”和“武器化”，并用来对抗美国的可能性。
之前，有许多专家，包括业内一些知名人物也对人工智能带来的风险提出警告。大约一年前，被誉为“人工智能之父”的辛顿（Geoffrey Hinton）辞去了谷歌的工作，并抨击了他帮助开发的AI技术。他表示，人工智能在未来三十年内导致人类灭绝的可能性为10%。
商界领袖也越来越担心AI的风险，尽管他们花费了数十亿美元投资人工智能。去年，在耶鲁大学首席执行官峰会上，在接受调查的首席执行官中，42%的人表示人工智能有可能在五到十年内灭绝人类。
报告呼吁政府采取重大新措施来应对这一威胁，包括成立一个新的人工智能机构、实施“紧急”监管保障措施以及限制可用于训练人工智能模型的计算机能力。
“显然迫切需要美国政府进行干预。”报告中写道。
（记者李昭希综合报导/责任编辑：林清）
