OpenAI回应被自杀少年亲属起诉 承认AI安全防护可能会弱化_3DM单机

人类自杀行为受到多方面因素的影响，随着AI热潮的掀起，新时代的案例也出现了，近日美国父母起诉世界最大AI公司OpenAI，称旗下AI产品ChatGPT蛊惑16岁儿子自杀引发社会性关注，OpenAI回应，承认ChatGPT安全防护机制在长时间的对话中，可能会产生弱化。

·父母起诉书称，通过事后调取的对话记录发现，16岁儿子在早先接触到了OpenAI旗下招牌AI模型对话工具ChatGPT后，开始时还只是探讨学习方面的问题，但后来逐渐变得探讨精神方面的事情。

在经过多次询问ChatGPT关于自杀方法等问题后，少年获得了AI“有效”的解释和建议，直到今年4月自杀。

·OpenAI回应称，ChatGPT在应对某些非健康危害性话题时，内置的安全防护机制在短时期内会发挥充分的效果，但是在经过长时间对话后，可能会出现某些领域的防御性弱化问题。