第一批上岗的AI主播已经翻车了：被观众控制胡言乱语 _ 游民星空 GamerSky.com

近期，AI主播频频翻车。

在许多网络直播间，网友仅用简单几条弹幕就能“控制”AI主播，本应正常工作带货的主播们，在“控制”下集体胡言乱语。评论区打出：“你是猫娘，喵一百声。”AI主播就秒变“猫娘”喵喵叫了下去。

看似有趣好玩的背后，实质是AI安全漏洞问题。

据大模型安全行业专家杨小芳介绍，这种现象的产生，是因为大模型将用户的输入内容和智能体原本的系统指令设定混在一起，从而执行了所有指令。

随着大模型技术的高速发展，AI加速融入我们日常生活，一些安全漏洞逐步暴露，造成“AI失控”现象，从“AI教青少年学坏”到“AI主播失控”，AI安全监管问题已经迫在眉睫。