近期,外媒披露了OpenAI内部的一项重大调整:其专注于通用人工智能(AGI)准备工作的“AGI Readiness”团队正面临解散,成员将被重新分配到其他内部团队。这一变动源于团队负责人Miles Brundage的离职,他计划在外部继续AGI领域的研究,并期望能减少偏见。
Miles Brundage在离职声明中表示,OpenAI及全球都尚未为AGI的到来做好充分准备。为此,他计划创立一个非营利组织,专注于人工智能政策的研究与宣传。
OpenAI在人工智能安全建设上的步伐相较于其产品的快速迭代显得滞后。2023年7月,成立八年的OpenAI才组建了“超级对齐”团队,旨在解决控制超级智能AI的核心技术挑战。然而,该团队在成立不到一年后,也因联合创始人、首席科学家Ilya Sutskever的离职而解散。
Ilya Sutskever在社交媒体上解释,制造比人类更聪明的机器是一项危险的事业,而OpenAI肩负着巨大的责任。但他认为,近年来,安全文化和流程已逐渐被产品的光芒所掩盖。
与此同时,“超级对齐”团队联合负责人Jan Leike也表达了类似观点。他强调应更多地为下一代模型的安全性、监控等方面做好准备,但OpenAI并未采纳他的想法,导致团队资源不足,研究进展缓慢。
OpenAI作为世界上估值最高的人工智能初创公司之一,今年10月获得了史上最大一轮融资,融资金额高达66亿美元,使其估值飙升至1570亿美元。这一估值不仅基于其领先的生成式AI技术,还源于其背后庞大的市场潜力。
据一份媒体获得的OpenAI财务数据文件显示,OpenAI的8月收入同比去年增长了3倍。预计今年ChatGPT将产生27亿美元收入,而去年这一数字仅为7亿美元。
在商业道路上疾驰的OpenAI,似乎已将其成立时的初衷——开发AI技术以“造福全人类,不受财务回报需求的限制”抛之脑后。