专业人士称AI一定会有私心：人类很难控制 _ 游民星空 GamerSky.com

盛夏之际，“创投十年高峰论坛”于6月21日至22日举办。梅花创投吴世春、中金资本单俊葆、金沙江创投朱啸虎、金慧丰投资周丽霞、场景实验室吴声、新潮传媒张继学等业界大咖齐聚合肥共襄盛会。

峰瑞资本合伙人陈石在本次论坛上谈到AI时表示，“AI一定会有私心。而且我们看了很多论文，在训练过程里面，会让AI产生一些不恰当的子目标。有一个实验，说假设你训练的是倒咖啡机器人，倒咖啡加一分。有一天人类把它关了，第二天再打开，它（倒咖啡机器人）发现昨天没有完成任务，就会分析是什么原因，（然后产生）不能让人类关我（的想法），所以这是不恰当的子目标。（倒咖啡机器人的私心会更加强烈）——我要追求长期在线，而且我要掌握更多的资源让我工作的更好，这种是很难避免的，特别是强化学习更容易产生，所以我觉得AI一定会有私心。”

人类能不能控制一个智力比我们强的生产工具？陈石认为，“我觉得很难，但是今天可能很多科学家都在投入这个方向，我觉得最后这部分肯定能解决的，这是我预计的未来。”