比如AI产生的大量错误信息和具有说服力的内容，特别是以GPT-4为代表的AI大模型，在文本、图像和视频生成方面的优异表现，已经越来越难通过肉眼来辨别真伪。因此，许多专家对AI技术被用于传播虚假信息、导致网络犯罪的潜在风险表示担忧。

5月22日，OpenAI在官网发文，建议全球主要政府共同成立一个类似国际原子能机构的组织，来监管未来的超级智能（ASI）。按照OpenAI的设想，只要AI系统超过了一定能力，或所需的计算资源超过一定水平，就需要接受该机构的检查，以确保符合安全标准。

就像核武器那样，哪怕被任何一个非理性的人恶意操纵，都会造成大范围的伤害。不过，与传统武器不同，这种具有危险能力的AI系统很容易通过数字化的手段扩散。即使所有超级大国都确保自己构建的系统是安全的，并同意不构建破坏性的AI技术，但黑客仍然可以利用漏洞伺机进入AI系统。

被称为“深度学习之父”的杰弗里·辛顿(Geoffrey Hinton)在此次联署中排在首位。谈及AI的潜在威胁，他对美国全国公共广播电台表示：“AI问题的紧迫性可能高于气候变化危机，它的能力超越其创造者的速度可能比任何人预期得都快。”

当时，他出席美国麻省理工大学（MIT）的一场论坛时表示：“如果AI模型比人类聪明得多，它将善于操纵人类，你都不会意识到发生了什么。”在最坏情况下，“人类只是智能进化的一个过场”，在生物智能进化出数字智能后，数字智能将吸收人类创造的一切，并开始直接接触世界。

“但要参与规则的制定，就要先上牌桌，上了牌桌才能有话语权，才有全球竞赛的入场券，”他认为，相比于单纯讨论和思考AI威胁论，商业公司首先要缩短和国外AI大模型的差距。

对外，国内的AI创业者习惯于扮演技术乐观主义者，“因为任何风口都有窗口期，现在并不是让赛道降温的时候。特别是中国大模型和国外存在着显著差距，过早的收敛，就意味着提前缴械投降。这是所有人都不愿看到的。”一位AI领域的投资人告诉虎嗅。

即便如此，部分创业者的AI世界观，确实发生了巨大变化。比如出门问问CEO李志飞前不久与虎嗅对话时坦言：“自己曾非常坚定地相信，人类搞不出一个超级牛的AI”。但现在，他的立场不那么坚定了。“也许5分钟前你还认为能100%控制，但是就在这5分钟，AI的智能加速度越来越快，当你意识到有失控风险的时候，已经为时已晚了。”

在接受南方财经全媒体采访时，他表示，《AI风险声明》更深度和直接地表达了签名者对人工智能给人类带来潜在生存风险的担忧和应采取的行动。不过他强调：“公开信的目的不是阻碍AI的发展，而恰恰是在探索AI稳健发展的途径。”