繁简切换

FX168财经网>美国股市>正文

华尔街日报:谷歌工程师两年前就研究出ChatGPT类似产品,因高管反对发布而辞职

文 / Sue 来源:FX168

FX168财经报社(北美)讯 两年多前,谷歌的两位研究人员开始推动公司发布一款聊天机器人,其技术比当时其他产品都要强大。他们开发的会话计算机程序可以自信地辩论哲学,对自己最喜欢的电视节目开玩笑,同时即兴创作有关牛和马的双关语。

据知情人士透露,研究人员Daniel De Freitas和Noam Shazeer告诉同事,像他们这样的聊天机器人受到人工智能最新进展的推动,将彻底改变人们搜索互联网和与电脑互动的方式。他们希望谷歌向外部研究人员提供访问聊天机器人的权限,试图将其集成到谷歌Assistant虚拟助手中,后来要求谷歌提供一个公开的演示版本。

知情人士说,谷歌的高管曾多次拒绝他们,至少有一次说该项目没有达到公司对人工智能系统的安全性和公平性的标准。这对搭档于2021年辞职,创办了自己的公司,研究类似的技术,他们告诉同事,无法将谷歌的人工智能工具推向公众,让他们感到很沮丧。

上个月,微软公司宣布计划在必应搜索引擎中注入流行聊天机器人ChatGPT的技术,此前ChatGPT以其类似人类的方式交谈的能力震惊了世界。ChatGPT是由埃隆·马斯克联合创立的一家名为OpenAI的初创公司开发的,成立已有7年,利用了谷歌早期的人工智能技术。

在ChatGPT首次亮相几个月后,谷歌正在采取措施,准备公开发布自己的聊天机器人,该机器人部分基于De Freitas和Shazeer参与开发的技术。这款名为Bard的聊天机器人利用网络上的信息,以对话的形式回答问题。谷歌在2月6日表示,他们正在对Bard进行内部和外部测试,目的是在未来几周内广泛发布。谷歌还表示,正考虑在部分搜索结果中采用类似技术。

去年谷歌公开解雇了一名声称其人工智能已经实现感知能力的员工,高管们担心,公开展示人工智能产品可能会给谷歌的声誉和搜索广告业务带来风险。去年谷歌母公司Alphabet Inc.近2830亿美元的收入中,大部分来自搜索广告业务。

“谷歌正努力在承担多大风险与保持世界思想领导力之间找到平衡,”谷歌前产品经理Gaurav Nemade说,他在公司的聊天机器人项目工作到2020年。

谷歌的一位发言人表示,De Freitas和Shazeer的工作在当时很有趣,但研究原型和人们日常安全使用的可靠产品之间还有很大的差距。在发布人工智能技术方面,谷歌必须比小型初创公司更深思熟虑。

上个月给谷歌员工的一封电子邮件中,谷歌和Alphabet的首席执行官Sundar Pichai表示,公司一些最成功的产品并不是第一个推向市场的,而是随着时间的推移赢得了用户的信任。“这将是一段漫长的旅程,对整个领域的每个人来说都是如此。我们现在能做的最重要的事情就是专注于开发一款伟大的产品,并负责任地进行开发。”

谷歌在聊天机器人方面的努力可以追溯到2013年,当时谷歌的联合创始人Larry Page聘请了计算机科学家Ray Kurzweil,Kurzweil帮助普及了机器有一天会超越人类智能的想法,这个概念被称为“技术奇点”。Kurzweil后来说,他开始研究多个聊天机器人,其中一个名叫Danielle,是根据他当时正在写的一部小说改编的。

谷歌还收购了英国人工智能公司DeepMind,这家公司也有类似的任务,即创造人工通用智能,或可以反映人类思维能力的软件。

与此同时,学者和技术专家越来越多地对人工智能表示担忧,并向谷歌等公司施压,要求它们承诺不追求这项技术的某些用途。

在一定程度上为了应对谷歌在人工智能领域日益上升的地位,包括马斯克在内的一群科技企业家和投资者于2015年成立了OpenAI。OpenAI最初是一个非营利组织,希望确保人工智能不会成为企业利益的牺牲品,而是被用于造福人类。

谷歌最终在2018年承诺不将其人工智能技术用于军事武器,此前谷歌在美国国防部一份名为Project Maven的合同中所做的工作遭到了员工的强烈反对,该合同涉及使用人工智能自动识别和跟踪潜在的无人机目标,随后谷歌放弃了项目。

大约在那时,在谷歌的YouTube视频平台工作的巴西出生的工程师De Freitas开始了一个人工智能的副项目。De Freitas的同事Shazeer在今年1月上传至YouTube的一段采访视频中说,他还是个孩子的时候,就梦想在能够产生令人信服对话的计算机系统上工作。在谷歌,De Freitas着手打造一个聊天机器人,它可以比以往任何尝试都更接近地模仿人类对话。

多年来,这个最初名为Meena的项目一直处于保密状态,De Freitas和谷歌的其他研究人员一直在对它的反应进行微调。在微软内部,一些员工担心此类程序的风险,此前微软在2016年被迫停止公开发布一款名为Tay的聊天机器人,原因是用户刺激它做出了有问题的回应。

谷歌Meena背后的团队也想发布他们的工具,即使只是以OpenAI所做的有限形式。谷歌前产品经理Nemade说,谷歌的领导层拒绝了这一提议,理由是这款聊天机器人不符合公司关于安全和公平的人工智能原则。

谷歌的一位发言人表示,这款聊天机器人经过了多次审查,多年来由于各种原因被禁止更广泛地发布。谷歌团队继续研究聊天机器人。Shazeer是人工智能研究部门谷歌Brain的长期软件工程师,他加入了这个项目,他们将其重新命名为LaMDA,即对话应用语言模型。他们给它注入了更多的数据和计算能力。Shazeer帮助开发了变形金刚,这是一种广受欢迎的新型人工智能模型,它可以更容易地构建功能日益强大的程序,比如ChatGPT背后的程序。

但他们的工作背后的技术很快就引起了公众的争议。谷歌的著名人工智能伦理研究员Timnit Gebru在2020年底表示,她因为拒绝撤回一篇关于LaMDA等项目固有风险的研究论文,然后在给同事的电子邮件中抱怨它而被解雇。谷歌说她没有被解雇,并声称她的研究不够严谨。

谷歌的两位副总裁当时在一篇博客文章中说:“在开发LaMDA这样的技术时,我们的最高优先级是努力确保我们将这种风险降至最低。”

谷歌后来考虑在2022年5月的旗舰会议上发布LaMDA版本,去年被该公司解雇的工程师Blake Lemoine说,他发表了与聊天机器人的对话,并声称它有感知能力。他的结论开始在公司内部引发争议后,谷歌决定不公布这些数据。谷歌认为他的担忧缺乏依据,公开披露违反了雇佣和数据安全政策。

据知情人士透露,早在2020年,De Freitas和Shazeer就曾想方设法将LaMDA集成到谷歌Assistant中,后者是该公司四年前在其Pixel智能手机和家庭扬声器系统上推出的一款软件应用程序。每月有超过5亿人使用谷歌助手来完成基本任务,如查看天气和安排约会。负责监督Assistant的团队开始使用LaMDA回答用户问题进行实验。不过,谷歌的高管们没有公开演示这款聊天机器人。

知情人士说,谷歌不愿向公众发布LaMDA,让De Freitas和Shazeer很沮丧,他们离开了公司,开始创建一家使用类似技术的初创公司。

Pichai亲自出面干预,要求两人留下来继续开发LaMDA,但没有承诺向公众发布这款聊天机器人。De Freitas和Shazeer于2021年底离开谷歌,并于当年11月成立了他们的新创业公司Character Technologies Inc.。去年发布的Character软件允许用户创建聊天机器人并与之互动,这些机器人可以扮演苏格拉底等知名人物或心理学家等普通类型的人物。

谷歌在今年2月宣布了Bard,当时微软正在举办一场活动,介绍必应整合了OpenAI技术。两天后,在巴黎的一场活动上,谷歌让媒体和更广泛的公众看到了Bard,以及一个使用类似LaMDA的人工智能技术对搜索查询生成文本响应的搜索工具。

分享
掌握最新全球资讯,下载FX168财经APP

相关文章

48小时/周排行

最热文章