美国一名 14 岁少年自[*]身[*]，其母亲梅根・加西亚 对聊天机器人平台 Character.AI、其创始人诺姆・沙泽尔 和丹尼尔・德弗雷塔斯 以及谷歌提起诉讼。指控内容包括 wrongful death、negligence、deceptive trade practices和 product liability。诉状称，Character.AI 平台“具有不合理的危险性”，并且在向儿童推销时缺乏安全防护措施。

　　根据诉状，14 岁少年塞维尔・塞泽尔三世 于去年开始使用 Character.AI，并与以加西亚的律师引用了沙泽尔此前接受时的一段话，沙泽尔表示他和德弗雷塔斯离开谷歌创立自己的公司是因为“在大公司里推出任何有趣的东西都存在品牌风险”，他希望“最大限度地加速”这项技术的发展。诉状还提到，他们是在谷歌决定不推出他们开发的 Meena 大型语言模型之后离开的。谷歌则在今年 8 月份收购了 Character.AI 的领导团队。

　　Character.AI 的网站和移动应用程序拥有数百个定制的聊天机器人，Character.AI 现已宣布对平台进行一些改动。该公司通讯负责人切尔西・哈里森 在发给部分改动内容包括：

　　针对未成年人 的模型更改，旨在降低遇到敏感或暗示性内容的可能性。

　　改进对违反平台条款或社区准则的用户输入的检测、响应和干预。

　　每场聊天都会出现修订后的免责

　　当用户在平台上进行一小时的会话时会收到通知，并且用户可以自行选择后续操作。

　　哈里森表示：“作为一家公司，我们非常重视用户安全，我们的信任和安全团队在过去六个月里实施了许多新的安全措施，其中包括当用户使用自残或自[*]念头等词语时，会弹出窗口引导用户到国家自[*]预防生命线。”