前OpenAI安全研究员示警:整个行业正在进行极其

2025-01-31 21:17:38

  前 OpenAI 安全研究员 Steven Adler 表示,他对 AI 发展的速度感到“非常恐惧”,并警告说,整个行业正在对这项技术进行“极其危险的赌博”。

  Steven Adler 对各大公司争相快速开发人工通用智能表示担忧,AGI 指Adler 在去年 11 月离开 OpenAI 后,在 X 平台上发表了一系列,回顾自己在前东家的“疯狂经历”,并表示会怀念其中的很多部分。然而,他也指出,技术发展得如此迅速,让他对人类的未来他说:“我现在对 AI 的进展感到非常恐慌。当我思考未来在哪里定居、为退休积蓄多少时,我不禁想:据了解,诺贝尔奖得主、“AI 教父”杰弗里・辛顿担心强大的 AI 系统可能会失控,造成灾难性后果;Meta 首席 AI 科学家杨立昆则认为,AI“或许能帮助人类避免灭绝”,淡化了其生存威胁。

  谈及 AGI 的开发 ——OpenAI 的核心目标之一,Adler 表示:“AGI 竞赛是一场极其冒险的赌博,风险巨大。”他还提到,目前没有任何实验室能有效解决 AI 对齐问题,即如何确保 AI 系统遵循人类的价值观,且行业的快速发展可能让我们错失找到解决方案的机会。

  Adler 警告说,AI 行业似乎陷入了他说:“即便某些实验室希望负责任地开发 AGI,其他实验室依然可能通过减少投入来追赶进度,这可能带来灾难性的后果。”

下一篇:《山脊赛车64》加入任天堂Switch会员免费游戏库,
上一篇:美商海盗船更新 Vengeance 台式机产品线:引入 5
返回顶部小火箭