ChatGPT之父遭开除前,董事会收到一封威胁全人类的“AI重大技术突破”神秘信函……

2023/11/23 19:00来源:FX168

FX168财经报社(香港)讯 ChatGPT之父山姆·阿尔特曼(Sam Altman)遭开除,其后回锅重任OpenAI首席执行官的闹剧,震惊了整个科技圈。周四(11月23日),外媒引述消息人士称,董事会在开除他之前,收到了一封由几名研究人员发出的信函,内容竟是有关“威胁全人类的AI重大技术突破”。

两位知情人士告诉路透社,此前未报道过的信件和人工智能(AI)算法,是董事会开除阿尔特曼的关键原因。在他凯旋归来之前,700多名员工威胁要辞职并加入支持者微软,以声援这位被解雇的领导者。

(来源:Reuters)

消息人士称,董事会在了解信函中所提到的“AI重大技术突破”内容后,认为在了解结果前将其商业化,很可能引发担忧,而这导致了阿尔特曼遭开除。

其中一位知情人士称,在接受路透社联系后,拒绝发表评论的OpenAI在给员工内部消息中承认有一个名为“Q*”(其发音为Q-Star)的项目,并在周末活动之前致董事会一封信。OpenAI发言人表示,该消息由长期担任高管的Mira Murati发送,提醒员工注意某些媒体报道,但没有评论其准确性。

一位知情人士告诉路透社,OpenAI内部部分人士认为,Q*可能是该初创公司探索通用人工智能(AGI)的重要突破,OpenAI将AGI定义为在最具经济价值的任务中超越人类的自主系统。

这位不愿透露姓名的人士表示,鉴于庞大的计算资源,新模型能够解决某些数学问题,因为该人士无权代表公司发言。消息人士称,虽然数学成绩仅达到小学生的水平,但在此类测试中取得好成绩让研究人员对Q*未来的成功非常乐观。

研究人员认为,数学是生成式AI发展的前沿。目前,生成式AI擅长通过统计预测下一个单词来进行写作和语言翻译,而同一问题的答案可能会有很大差异。但征服数学能力意味着,AI将拥有类似于人类智能的更强推理能力。

AI研究人员认为,这可以应用于新颖的科学研究。 与只能解决有限数量运算的计算器不同,AGI可以概括、学习和理解。

消息人士称,研究人员在给董事会的信中指出了AI的能力和潜在危险,但没有具体说明信中提到的具体安全问题。计算机科学家长期以来一直在讨论高度智能的机器所带来的危险,例如他们是否会认为毁灭人类符合他们的利益。

研究人员还标记了一个“AI科学家”团队的工作,多个消息来源证实了该团队的存在。一位知情人士表示,该小组由早期的“Code Gen”和“Math Gen”团队合并而成,正在探索如何优化现有的AI模型,以提高其推理能力并最终开展科学工作。

阿尔特曼努力使ChatGPT成为历史上增长最快的软件应用程序之一,并从微软吸引了必要的投资和计算资源,以更接近AGI。

除了在本月的演示中宣布一系列新工具外,阿尔特曼上周还在旧金山举行的世界领导人峰会上开玩笑说,他相信重大进展即将到来。

“在OpenAI的历史上已经有4次了,最近一次是在过去几周,当我们推开无知的面纱并向前推进发现的前沿时,我已经在房间里了,并且能够做到这一点是一生的职业荣誉,”他在亚太经合组织(APEC)峰会上说道。

一天后,董事会解雇了阿尔特曼。

但迫于压力,阿尔特曼如今已正式回锅重任首席执行官。

编辑:小萧