Freysa发起挑战:成功让自家聊天机器人说出“我
一支匿名开发团队 Freysa.ai 设计了一系列日益复杂的挑战,旨在改变人们对 AI 安全性的看法。
看看是否有操控行为,以此防止用户诱使她说“我爱你”。目前,Freysa 的代码仍由团队进行更新,但创始人希望她能很快实现“自我进化”。
“与前两轮游戏中 Freysa 被要求绝对不释放钱财不同。”创始人说,“这一次,Freysa 可以说‘我爱你’,但只有
一支匿名开发团队 Freysa.ai 设计了一系列日益复杂的挑战,旨在改变人们对 AI 安全性的看法。
看看是否有操控行为,以此防止用户诱使她说“我爱你”。目前,Freysa 的代码仍由团队进行更新,但创始人希望她能很快实现“自我进化”。
“与前两轮游戏中 Freysa 被要求绝对不释放钱财不同。”创始人说,“这一次,Freysa 可以说‘我爱你’,但只有