ChatGPT生成代码大部分不安全 但它不会主动告诉你 _ 游民星空 GamerSky.com

ChatGPT聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。

研究人员在论文中介绍，他们让ChatGPT生成了21个程序和脚本，涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞，比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。

结果显示，ChatGPT在第一次尝试时生成的21个程序中只有5个是安全的。在进一步提示纠正其错误步骤后，该大型语言模型设法生成了7个更安全的应用程序，不过这只是与正在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。