科技界大事！中国拟监管“生成式AI” 完全控制内容审查 百度、阿里巴巴紧急沟通

FX168财经报社(香港)讯 人工智能(AI)经历高速发展，已跃升为战略性新兴产业。外媒引述消息人士指出，中国正在考虑收紧对生成式AI的监管，完全控制内容审查。国家网信办计划建立一套系统，要求企业在推出生成式AI模型前，先从有关部门取得许可证。百度、阿里巴巴紧急沟通，确保其AI产品没有违规。

英国《金融时报》、路透社等报道称，两位接近中国监管机构的人士表示，中国国家网信办新的要求，将收紧4月份发布的法规草案，其中规定科技企业将在产品推出后，有10个工作日的时间向当局注册。

(来源:Twitter)

据知情人士透露，许可制度是最早将于本月最终确定的法规的一部分。这标志着中国正在努力调和其开发世界一流技术的雄心与其长期的审查制度。

卡内基国际和平基金会研究员马特·希恩(Matt Sheehan)表示：“中国第一次发现自己必须在维持AI领导地位、控制信息等目标之间进行权衡。”

一位了解网信办审议情况的人士表示：“如果中方打算完全控制和审查AI创建的信息，他们将要求所有公司事先获得当局的批准。”但该人士补充说，监管必须避免扼杀国内企业在科技竞赛中的表现。

该人士继续指出，中国正在摇摆不定，寻求在生成式AI技术普及之前正式制定其监管方法，这项新技术可以根据简单的提示快速创建类似人类的文本、图像和其他内容。

中国发布的《全球数字经济白皮书》显示，大模型突破成为有可能逼近通用人工智能的关键技术。AI大模型初具应用成效，有望成为各行业基础赋能工具，在文本创作、图像生成、代码编写等创作生成类场景率先落地，与此同时，如学科考试、行业问答助手、金融危机评估等知识密集型应用显现成效。

与往年相比，今年上半年，数字技术领域最火热的赛道莫过于以ChatGPT引领的生成式AI及大模型热潮。

今年4月公布的草案规定，AI内容应当“体现社会主义核心价值观”。

中国网信办主任庄荣文最近表示，需要确保AI“可靠、可控”。草案还要求企业用于训练生成式AI模型的数据应当保证“真实性、准确性、客观性和多样性”。

另外，两位与监管机构关系密切的人士表示，今年推出生成式AI应用程序的百度、阿里巴巴等公司在过去几个月一直在与监管机构保持联系，以确保他们的AI不会违反规定。

香港大学法学副教授Angela Zhang表示：“中国的监管措施主要集中在内容控制上。”

其他国家正在竞相立法，打击该技术的潜在滥用行为。欧盟提出了一些世界上最严厉的规则，引发了该地区公司和高管的强烈抗议，而华盛顿一直在讨论控制AI的措施，英国正在启动审查。

用于训练AI模型的数据质量是监管审查的一个关键领域，试图解决AI系统制造材料的“幻觉”等问题。希恩表示，中国方面的要求“高得多”，这意味着中企需要花费更多努力来过滤用于“训练”AI的数据。