谷歌前CEO警告：AI被滥用的风险极高 迟早会威胁人类生存

摘要： 　　财联社5月25日讯（编辑 赵昊）当地时间周三（5月24日），谷歌前首席执行官埃里克·施密特警告称，人工智能可能带来“生存风险”，各国政府需要知道如何确保该技术不被“坏人滥用”。...

　　财联社5月25日讯（编辑 赵昊）当地时间周三（5月24日），谷歌前首席执行官埃里克·施密特警告称，人工智能可能带来“生存风险”，各国政府需要知道如何确保该技术不被“坏人滥用”。

　　施密特在一场伦敦举行的活动中表示，他所述的“生存风险”（existential risks）是指“许多、许多、许多人会受到伤害或死亡”。

　　由于聊天机器人ChatGPT的迅速走红，引发了人们对人工智能（AI）这项技术的狂热，全球许多科技公司都想推出ChatGPT的竞品，其中就包括了施密特的“老东家”谷歌公司，这些企业希望以此展示他们的AI实力。

　　但施密特认为，人工智能系统迟早有一天能够找到网络的“零日漏洞”（zero-day），或者发现新的生物种类，“虽然这可能在今天还难以实现，但这将很快就会出现。”

“零日漏洞”又叫零时差攻击，是指被发现后立即被恶意利用的安全漏洞。通俗地讲，即安全补丁与瑕疵曝光的同一日内，相关的恶意程序就出现。这种攻击往往具有很大的突发性与破坏性。

　　施密特表示，“当这种情况发生时，我们希望能做好准备，知道如何确保这些东西不被邪恶的人滥用。”

　　施密特于2001年至2011年担任谷歌CEO，目前他在美国人工智能国家安全委员会担任主席。该委员会在2021年发表的审查报告中警告称，美国对人工智能时代的准备不足。

　　值得一提的是，施密特并不是第一个警告AI风险的技术人物。此前，ChatGPT开发商OpenAI的首席执行官山姆·阿尔特曼也承认，他对一些潜在的滥用行为“有点害怕”。

　　而OpenAI创始人之一的埃隆·马斯克也表示，人工智能是未来人类文明最大的风险之一。在2018年的一次采访中，他更是强调，人工智能要比核武器危险得多。

　　先前，有一些参议员主张设立一个新的监管机构，将人工智能在内的一众新兴技术纳入管辖。阿尔特曼对这一建议表达了欢迎，认为这种方式有望让美国本土的技术继续领跑。

　　不过，施密特认为，美国不太可能成立一个专门监管人工智能的新机构。他说这实质上是一个“更广泛的社会问题”。