OpenAI掌门:ChatGPT将成里程碑,担忧竞争对手走捷径
’的东西,不是RLHF,但可以让用户最大限度获得控制权,我认为这样的东西将非常重要。”
奥特曼认为,“你总是能找到GPT犯错或者存在偏见的个案证据,但我们很希望,能够就系统的偏见或者细节问题做出一般性的陈述。”
对于“标题党”新闻以及各种抨击,奥特曼回应说,自己并没有感到压力,“我确定它会产生各种微妙的影响,但我没有感觉到很多。我们很乐意承认自己的错误。”
许多人倾向于用“她”或“他”这样的人称代词来称呼ChatGPT等人工智能模型,赋予其人格。奥特曼指出,人工智能只是工具,而不是一种生物,把工具当成生物,甚至将情绪投射到其身上是十分危险的。
奥特曼说道,他能够理解有人有这方面的需求,未来也会有公司开发出基于GPT-4的宠物类或者人物类陪伴产品,但他自己对这个方向并不感兴趣。
对于由开发团队自身可能带来的偏见,奥特曼也毫不避讳,“人工智能的群体思维泡沫随处可见,很难避免,”奥特曼表示,他将要进行一次为期一个月的全球用户之旅,去不同的城市与用户交流,去与身处不同背景的人沟通,“这种交流在互联网上是行不通的,亲自去到他们所去的酒吧、走过他们走过的城市,你可以学到很多东西,摆脱泡沫的束缚。”
在OpenAI之后,包括谷歌在内的竞争对手纷纷加速推出人工智能产品,对于市场竞争,奥特曼认为,世界上将有多个人工智能,OpenAI不需要去和所有人竞争,“我认为世界上有多个通用人工智能是好事,它们在构建方式、着重点等方面都各有差异。”
奥特曼直言,对于所谓“竞争带来的压力”毫无畏惧,“我们是一个奇怪的组织,我们擅长抵抗压力。我们很长一段时间以来一直被误解、被嘲笑。成立之初,也就是在2015年,我们宣布要研究通用人工智能,当时人们觉得我们疯了。我记得有一位知名的人工智能科学家,说我们谈论通用人工智能简直荒谬。”
对于竞争对手,奥特曼最大的担忧反而是安全问题。他认为,人工智能的参与者中不乏有人要走捷径,甚至为了获取无限的价值而导致负面事情的发生,这是一件值得担忧的事情。
此外,他还介绍说,OpenAI的组织结构非常特殊,是在非营利性组织的基础之上,增设了营利组织分支,以便为OpenAI提供足够的资金支持,在支付成本之后,其营收全都流入非营利组织之中,这样的组织架构很好地保障了OpenAI的顺利运行。