马斯克等千名大佬呼吁暂停训练人工智能：它可能会毁灭世界！

近日，一个名叫生命未来研究所的网站发布了一篇名为《暂停大型人工智能研究》的公开联名信，在公开信开头我们看到，“我们呼吁所有AI实验室暂时停止训练比GPT-4还强大的AI，至少6个月。”截至记者发稿，该公开信已经收到了1126个签名，其中不乏像马斯克和苹果联合创始人Steve Wozniak这样的名人。

接着，公开信阐述了研究所的立场：

最近这几个月，全球的AI实验室已经完全失控了，它们疯狂地开展AI竞赛，来开发和部署更强大的AI，而没有任何人可以理解、预测、控制这些AI，连它们的创造者都不能。

人工智能系统对社会和人类构成较大的风险。尽管最近几个月人工智能实验室掀起AI狂潮，开发和部署越来越强大的数字大脑，但目前没有人能理解、预测或可靠地控制AI系统，也没有相应水平的规划和管理。人工智能实验室和独立专家应在暂停期间，共同制定和实施一套先进的人工智能设计和开发的共享安全协议，由独立的外部专家进行严格的审查和监督。

简单说，就是得到顶级AI实验室的认可、具有人类竞争智能的AI系统，可能对社会和人类构成深远的风险。

在科技界被广泛认可的AsilomarAI原则提到，高级人工智能可能代表着地球上生命历史的深刻变革，应该以相应的谨慎和资源进行规划和管理。

前两天，马云探访云谷学校时曾提出，ChatGPT这一类技术已经对教育带来挑战，但是ChatGPT这一类技术只是AI时代的开始。我们要用人工智能去解决问题，而不是被人工智能所控制，虽然人的体力、脑力比不过机器，但机器只有“芯”，而人有“心”。

他说，工业时代是知识驱动，知识的竞争；数字时代，是智慧驱动，是创造力和想象力的竞争，是领导力、担当力、责任的竞争，是独立思考的竞争。

以前我们只能在电影当中看到各种各样似乎属于未来的人工智能，但是现在，它就在我们眼前，以目前的发展速度下去，AI将拥有怎么样的能力，我们不得而知，所以我们也许真的得像公开信中说的那样对它充满畏惧，提高警惕。

Open　AI　CEO　Sam　Altman在这个月中旬进行的一次访谈中说：“我对AI感到有点害怕。”

半个月前，GPT-4在科技界产生了如此大的影响，那么肯定会有人问：会有GPT-5，6甚至7吗？其实早就有团队预测，OpenAI团队将在2023年9月或10月推出一个过渡版本GPT-4.5，它将能处理更复杂的文本，提高连贯性，给用户更准确的回答。经过亿万级训练之后的GPT,只会比以往更强大，更智能，更专业。

在公开信的最后作者提到：人类可以享受AI带来的繁荣未来。在成功创建了强大的AI系统后，我们可以享受“AI之夏”收获回报，设计上述系统，以造福所有人，给全人类一个适应的机会。现在，我们的社会已经暂停其他可能造成灾难性影响的技术。对于AI，我们也该如此。让我们享受一个漫长的AI夏天，而不是毫无准备地进入秋天。

那么，这些AI团队，包括OpenAI,会“听”公开信的建议吗？

毛卫星