AI领袖再次警告 AI难以控制两年就可造出生化武器_3DM单机

尽管不少大佬并不看好AI的爆炸式发展，不过并不影响世界各大巨头们的布局，7月26日信消息，美国当地时间周二，三位人工智能(AI)行业领袖在美国国会参议院司法委员会举行的听证会上作证。

他们警告称，AI的疯狂发展速度可能会在未来几年内造成严重危害，比如流氓国家或恐怖分子会利用这项技术制造生化武器。

此次听证会很好地展示了人们对于AI会超过人类智慧的担忧。多年来，人们的这种担忧原本只存在于科幻小说中。然而，随着ChatGPT横空出世并引发AI竞赛，这一担忧迅速成为主流声音。

美国AI创业公司Anthropic CEO达里奥·阿莫代伊(Dario Amodei)在听证会上表示，他担心尖端AI技术可能在短短两年时间内就会被用来制造危险的病毒和其他生化武器。

蒙特利尔大学AI教授、“现代AI科学之父”约书亚·本吉奥(Yoshua Bengio)认为，美国应该推动国际合作来控制AI的发展，他还概述了一种类似于核技术国际监管规则的管理制度。

“最近，我和其他许多人都对ChatGPT等AI系统实现的巨大飞跃感到惊讶。AI进步的加快更令人担忧。”本吉奥表示。与本吉奥、拉塞尔不同的是，阿莫代伊经营着一家正在推动AI技术向前发展的公司Anthropic。

该公司的员工都是前谷歌和OpenAI的研究人员，试图将自己定位为比大型科技公司的技术考虑更周到、更谨慎的替代品。而且，Anthropic从谷歌那里获得了大约3亿美元的投资，并依靠谷歌的数据中心来运行其AI模型。

他还呼吁为AI研究提供更多联邦资金，以学习如何降低AI带来的一系列风险。阿莫代伊预测，在未来两到三年内，恶意分子可能会利用AI来帮助开发生化武器，绕过旨在阻止人们开发此类武器的严格行业控制。“我担心我们能否及时做到这一点，但我们必须尝试。”他表示。