科学家称AI大模型是危险的“孩子” 不可捉摸和预测 _ 游民星空 GamerSky.com

据36氪报道，2023年3月29日，一封名为《Pause Giant AI Experiments: An Open Letter（暂停巨型AI实验：一封公开信）》的公开信指出：最近几个月人工智能实验室陷入了一场失控的竞赛，他们致力于开发和部署更强大的数字思维，但是没有人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能。

联名信呼吁：所有AI实验室立即暂停训练比GPT-4更强大的 AI 系统，为期至少6个月。截至发稿前，已有超过22000人签下了自己的名字。OpenAI的联合创始人、特斯拉CEO伊隆·马斯克，也签下了自己的名字。

多模态大模型“文澜 BriVL”设计者、中国人民大学高瓴人工智能学院教授卢志武，对36氪打了个比方。如今，暴风成长的AI大模型，在许多作为“父母”的研究者眼中，成了一个危险的“孩子”。

在ChatGPT爆火出圈后，技术造成的冲击和风险，已被许多人感受到。一方面，部分隐患由大模型尚不成熟的技术所造成——在不少专家看来，技术造成的缺陷尚且可用强化学习、微调的方式进行弥补。

而最让人担忧的是，大模型的“智能涌现（Emergent phenomena）”黑箱——这一研究者尚未摸到石头的能力，让人们为AI狂飙的智力能力欢呼的同时，又对不可捉摸和预测的风险感到畏惧。