中美找到“控制AI杀手级应用”?美媒:与比特币背后的技术息息相关……

2024/01/22 18:31来源:FX168

FX168财经报社(香港)讯 在达沃斯世界经济论坛(DAVOS)上,高管们表示,他们似乎找到了控制人工智能(AI)的杀手级应用,这与比特币背后的技术息息相关。英国媒体此前透露,中美相关企业与专家曾在2023年密会寻找一条安全开发更复杂AI技术的科学路径。

美国CNBC报道称,人们对支持AI聊天机器人ChatGPT的AI模型存在普遍担忧,它们所训练的数据可能包含偏见或错误信息,这意味着AI系统可能给出的答案将包含这些偏见和虚假信息。

(来源:CNBC)

2009年,随着加密货币比特币的推出,区块链(Blockchain)进入了市场。在比特币的背景下,该技术是一个不可变且防篡改的公共交易分类账。企业一直在寻求将这些原理应用于区块链的其他应用程序,有时称为分布式账本技术。

就AI而言,训练数据可以放在区块链上,这将使AI系统的开发人员能够跟踪模型训练的数据。

Casper Labs是一家以商业为中心的区块链公司,今年1月早些时候与IBM合作创建了这样一个系统。Casper Labs首席技术官兼联合创始人梅德哈·帕里卡(Medha Parlika)在一次小组讨论中表示:“我们正在开发的产品,数据集实际上是经过检查点并存储在区块链上的,这样你就可以证明人工智能是如何训练的。”

“因此,当你使用AI模型时,如果它正在学习并且你发现AI开始产生幻觉,你实际上可以回滚AI。这样你可以撤消一些学习内容,并返回到之前版本的AI。”

所谓的“幻觉”,泛指AI系统给出错误信息的情况。

区块链是一项已被谈论多年的技术,从金融到医疗保健等许多行业一直在寻找使用它的方法。

然而,加密货币创新委员会首席执行官希拉·沃伦(Sheila Warren)表示,基于区块链的AI训练数据分类账,可能是该技术的“杀手级应用”。

“我实际上确实认为AI系统内的验证以及某种制衡,将由区块链驱动,并由区块链支持,”沃伦在小组讨论中告诉美国CNBC。

英国《金融时报》(Financial Times)在1月11日报道称,美国AI公司OpenAI、Anthropic和Cohere与中国AI专家进行了秘密外交,因为他们共同担心强大的技术可能会传播错误信息并威胁社会凝聚力。

(来源:Financial Times)

据多名知情人士透露,2023年7月和10月在日内瓦举行了两次会议,北美AI团体的科学家和政策专家,以及清华大学和其他中国政府支持机构的代表参加了会议。

与会者表示,会谈使双方能够讨论新兴技术的风险,并鼓励对AI安全研究的投资。他们补充说,最终目标是找到一条科学的道路来安全地开发更复杂的AI技术。

一位出席会谈的人士表示:“如果这些参与者之间没有达成一致,我们就无法制定有关AI安全和一致性的国际标准。”

“如果他们同意,那么带动其他人就更容易了。”

中国驻英国大使馆表示:“中方支持讨论AI治理,并在广泛共识的基础上制定必要的框架、规范和标准。”

中方愿同各方就全球AI治理开展沟通交流和务实合作,确保AI发展促进人类文明进步。

编辑:小萧