人工智能过度收集个人信息?意大利对OpenAI展开调查,暂时屏蔽ChatGPT访问

2023/04/01 03:55来源:FX168

FX168财经报社(北美)讯 意大利隐私监管机构暂时禁止了流行的人工智能服务ChatGPT,此前该机构对该聊天机器人的微软支持的所有者OpenAI展开了调查。

意大利数据保护机构周五(3月31日)表示,将在审查这家美国公司收集个人信息的同时,在意大利屏蔽对这款聊天机器人的访问。

在此之前,上周一起网络安全漏洞暴露了用户对话和一些财务细节。英国《金融时报》看到的OpenAI发给一名受影响客户的电子邮件显示,在9个小时内被曝光的信息包括姓名、账单地址、信用卡类型、信用卡到期日期以及信用卡的后四位数字。

总部位于罗马的监管机构表示,由首席执行官Sam Altman领导的这家美国公司将有20天时间对禁令做出回应,并说明它为解决这些问题采取了哪些行动。如果OpenAI未能在最后期限内做出回应,可能面临最高2000万欧元的罚款。

此举是针对流行聊天机器人的首次监管行动,世界各地的政策制定者都在寻求应对生成式人工智能服务的崛起。

专家一直担心ChatGPT背后的语言模型会吸收大量的数据。OpenAI成立两个月后,月活跃用户已超过1亿。同样采用OpenAI技术的微软(Microsoft)新搜索引擎必应(Bing)在今年1月发布后的两周内,在169个国家有超过100万人使用。

OpenAI此前曾表示,已经解决了与信息泄露相关的网络安全问题。然而在调查进行期间,OpenAI将被禁止通过ChatGPT处理意大利用户的数据。

意大利监管机构表示,在注意到“为‘训练’ChatGPT算法而大规模收集和存储个人数据的行为缺乏法律依据”后,该机构展开了调查。根据其内部分析,ChatGPT“并不总是提供准确的信息”,导致了个人信息的滥用。

该监管机构批评OpenAI缺乏过滤器来核实13岁以下的儿童没有使用服务。具体来说,该监管机构称,未成年儿童接触到的内容和信息不适合他们的“自我意识水平”。

本周,埃隆·马斯克和现代人工智能方法之父之一的Yoshua Bengio等人呼吁暂停开发比新推出的GPT-4更强大的系统六个月,理由是对社会存在重大风险。

一些行业专家和内部人士表示,这一呼吁是虚伪的,它只是一种让人工智能“后来者追赶”OpenAI的方式,目前大型科技公司正在积极竞争,推出ChatGPT和谷歌的Bard等人工智能产品。

生成式人工智能技术属于现有数据和数字法律的监管范围,如GDPR和数字服务法案,这些法律监督了它的某些方面。欧盟(EU)正在准备一项监管人工智能在欧洲如何使用的法规,违反欧盟规定的企业将面临最高3000万欧元或全球年营业额6%的罚款(以金额较大者为准)。

编辑:Sue