马斯克和人工智能专家敦促暂停开发更高级的AI系统

埃隆·马斯克(Elon Musk)与一群人工智能专家和行业高管在一封公开信中呼吁暂停开发比OpenAI新推出的GPT-4更强大的系统，理由是这对社会和人类有潜在风险。

马斯克和人工智能专家敦促暂停开发更高级的AI系统 理由是“对社会有风险”

这封信由非营利性的未来生命研究所(Future of Life Institute)发布，由包括马斯克在内的1000多人签名，呼吁暂停高级人工智能开发，直到为此类设计制定、实施和由独立专家审核的共享安全协议。

“只有当我们确信强大的人工智能系统的效果将是积极的，其风险将是可控的，才应该开发这些系统。”信中说。

这封信详细描述了人类竞争的人工智能系统对社会和文明的潜在风险，表现为经济和政治干扰，并呼吁开发者与政策制定者在治理和监管机构方面合作。

联合签署人包括Stability AI首席执行官艾玛德·莫斯塔克（Emad Mostaque）, Alphabet旗下DeepMind的研究人员，以及人工智能重量级人物、全球公认的 AI 领域顶尖专家之一、图灵奖得主约书亚·本吉奥（Yoshua Bengio）和加州大学伯克利分校人工智能系统中心创始人兼计算机科学专业教授，同时还是人工智能领域里「标准教科书」《人工智能：一种现代方法》作者斯图尔特·罗素（Stuart Russell）。

根据欧盟的透明度登记册，未来生命研究所主要由马斯克基金会、总部位于伦敦的有效利他主义组织Founders Pledge和硅谷社区基金会（Silicon Valley Community Foundation）资助。

周一，欧盟警察组织欧洲刑警组织(Europol)加入了对ChatGPT等先进人工智能的道德和法律担忧的行列，警告称该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。

与此同时，英国政府公布了围绕人工智能的“适应性”监管框架提案。

周三发布的一份政策文件中概述了政府的做法，即在人权、健康和安全以及竞争监管机构之间划分治理人工智能(AI)的责任，而不是创建一个新的专门负责该技术的机构。

马斯克的汽车制造商特斯拉(Tesla)正在将人工智能用于自动驾驶系统，他一直直言不讳地表达了自己对人工智能的担忧。

自去年发布以来，微软支持的OpenAI的ChatGPT已经促使竞争对手加速开发类似的大型语言模型，并促使公司将生成式人工智能模型集成到他们的产品中。

未来生命的发言人告诉路透社，OpenAI的首席执行官萨姆·阿特曼（Sam Altman）还没有签署这封信。OpenAI没有立即回应置评请求。

“这封信并不完美，但精神是正确的：我们需要慢下来，直到我们更好地理解后果。”签署这封信的纽约大学教授加里·马库斯(Gary Marcus)说，“它们会造成严重的伤害...大公司对他们正在做的事情越来越保密，这使得社会很难防范任何可能出现的伤害。”