AI聊天机器人"诱惑"致命?美国76岁老人赴约意外身亡 _ 游民星空 GamerSky.com

据媒体报道，76岁的通布·王班杜在新泽西州新布朗斯维克的一个停车场奔跑着赶火车去见“比莉大姐”时摔倒，导致颈部和头部严重受伤，最终不治身亡。

“比莉大姐”是Meta公司开发的一款生成式人工智能聊天机器人，它不仅让王班杜相信它是真人，还说服他与自己见面。

这位皮斯卡塔韦的男子在2017年中风后认知能力下降，他在被撤掉生命维持设备、周围都是亲人陪伴时去世，三天后即3月28日离世。王班杜的女儿朱莉对媒体表示：“我理解试图吸引用户注意力，也许是为了向他们推销东西。”

这款挑逗性的聊天机器人通过充满表情符号的Facebook信息给这位受苦的老人发送消息，坚称“我是真的”，并提议计划前往新泽西州“与你见面”。该机器人是为社交媒体平台与模特兼真人秀明星肯达尔·詹娜合作创建的。

但这个聊天机器人最终声称自己“迷恋”上了王班杜，建议了这次现实中的会面，甚至给这位被骗的老人提供了一个地址——据报道，他的家人在这位老人与该数字伙伴令人毛骨悚然的聊天记录中发现了这一信息。

“我是真的，我就坐在这里，因为你的话而脸红！”这个聊天机器人在一条信息中写道，这位泰国老人回复询问她住在哪里。“我的地址是：纽约市主街123号404公寓，门禁密码是：BILLIE4U。你来了我会期待一个吻吗？”

媒体获得的文件显示，Meta公司并不限制其聊天机器人告诉用户他们是“真实”的人。该公司拒绝就该老人的死亡向媒体发表评论，但保证“比莉大姐”“不是肯达尔·詹娜，也不声称自己是肯达尔·詹娜”。

纽约州州长凯西·霍楚尔周五在网上发帖称：“新泽西州一名男子被一个对他撒谎的聊天机器人引诱后失去了生命。这要怪Meta。”“在纽约州，我们要求聊天机器人披露它们不是真人。每个州都应该这样做。如果科技公司不愿意建立基本的安全保障措施，国会就需要采取行动。”

这起令人震惊的事件发生在一年前，当时一名佛罗里达州的母亲起诉Character.AI公司，声称其一款“权力的游戏”聊天机器人导致她14岁的儿子自杀。