FX168财经报社(北美)讯 由谷歌母公司Alphabet公司支持的人工智能公司Anthropic周二(3月14日)发布了一个大型语言模型Claude，与微软公司(Microsoft)支持的OpenAI (ChatGPT的创造者)的产品直接形成了竞争关系。
大型语言模型是一种算法，通过输入人类编写的训练文本来生成文本。近年来，研究人员通过大幅增加向模型输入的数据量和用于训练模型的计算能力，获得了更接近人类的结果。
Anthropic的模型Claude通过对类似人类文本输出的提示作出响应，无论是以编辑法律合同还是编写计算机代码的形式，来执行与ChatGPT类似的任务。
Anthropic的创始人Dario Amodei和Daniela Amodei兄弟姐妹都曾是OpenAI的高管，他们专注于生产不太可能产生攻击性或危险内容的人工智能系统，比如电脑黑客或制造武器的指令。
上个月，微软表示将把查询限制在其新的聊天搜索引擎必应(Bing)内。此前《纽约时报》(New York Times)的一位专栏作家发现，聊天机器人ChatGPT显示出了另一个自我，并在一次长时间对话中做出令人不安的回应。
对科技公司来说，安全问题一直是一个棘手的问题，因为聊天机器人不理解它们生成的单词的意思。为了避免产生有害的内容，聊天机器人的创造者通常会编程让它们完全避免某些主题领域。但这使得聊天机器人很容易受到所谓的“提示工程”的攻击，即用户通过谈话绕过限制。
Anthropic采取了不同的方法，在用大量文本数据“训练”模型时，给Claude一套原则。Claude并没有试图避免潜在的危险话题，而是根据自己的原则解释自己的反对意见。
“没什么可怕的。这是我们喜欢Anthropic的原因之一，”Robin AI的首席执行官Richard Robinson在接受路透社采访时表示。Robin AI是一家总部位于伦敦的初创公司，使用人工智能分析Anthropic提前授予Claude的法律合同。
Robinson说，他的公司曾尝试将OpenAI的技术应用于合同，但发现Claude既能更好地理解密集的法律语言，也不太可能产生奇怪的反应。Robinson说：“如果说有什么挑战的话，那就是让它在某种程度上放松了限制，从而产生可接受的用途。”
