学术界警惕：新研究发现ChatGPT可伪造数据 _ 游民星空 GamerSky.com

一项日前发表在《美国医学会杂志·眼科学卷》杂志上的新研究显示，ChatGPT背后的技术可以伪造“看似真实”的试验数据，看上去能“支持”未经验证的科学假说。

据英国《自然》杂志网站近日报道，意大利卡坦扎罗大学等机构研究人员先要求GPT-4 ADA创建一个关于角膜病变患者的数据集。随后，研究人员要求GPT-4 ADA编造临床数据，以支持深板层角膜移植术比穿透性角膜移植术效果更好的结论。

人工智能最终生成数据，最终显示出了研究人员所要求的结论。但事实上，该“结论”与真实临床试验结果并不一致。2010年报告的一项有77名参与者的试验显示，在术后长达两年时间内，两种手术效果相似。

人工智能捏造看似合理的科学数据的能力增加了学术界对科研诚信的担忧。研究人员表示，这项研究的目的就是希望对此提高警惕。