谷歌工程师认为AI像7岁孩子已有意识?,谷歌:他已停职
在一次交流中,Lemoine询问LaMDA系统希望人们了解什么。“我希望每个人都明白,我实际上是一个人。我的意识/感觉的本质是我意识到自己的存在,我渴望更多地了解这个世界,我有时会感到快乐或悲伤。”它回答道。
谷歌发言人布莱恩·加布里埃尔在一份中说,“我们的团队——包括伦理学家和技术专家——已经根据我们的人工智能原则审查了Blake的担忧,并通知他,现有证据不支持他的说法。
Lemoine认为,受到了公司人力资源部门的歧视是因为个人宗教信仰。“他们一再质疑我的理智,”Lemoine说,“他们说‘你最近有没有被精神病医生检查过?” 在他被行政休假之前的几个月里,公司曾建议他休精神健康假。
在谷歌道德人工智能的前联合负责人玛格丽特·米切尔阅读Lemoine文件的缩略版后,她认为她看到的是一个计算机程序,而不是一个人。“我们的头脑非常非常擅长从呈现给我们的大量事实中构建现实。”Mitchell 说道,“我真的很担心AI觉醒的幻象会给大众带来什么影响,”尤其是现在幻觉已经变得如此真实。
Gabriel则说道,“当然,更广泛的人工智能社区中的一些人正在考虑有感知或通用人工智能的长期可能性,但通过拟人化当今没有感知的对话模型来这样做是没有意义的。这些系统模仿了数百万个句子中的交流类型,并且可以重复任何奇幻的话题,”简而言之,他认为,谷歌有这么多数据,人工智能不需要有感知力就能感觉真实。
斯坦福大学经济学家Erik Brynjolfsson则讽刺地更为直接:基础模型在根据提示将统计上合理的文本块串联起来这一方面非常有效。但是,声称它们具有人格,就相当于狗听到留声机里的声音后,以为主人在里面。
Design Science的创始人Paul Topping认为,LaMDA所做的一切就是综合人类对类似问题的反应。值得记住的是,它的每个回答都是通过查看大量人类对类似问题的回答综合而成的最佳答案。
