您的位置:首页 >综合 > 正文

全球滚动:《生成式人工智能服务管理办法》征求意见,AIGC规范发展可期

来源:巨丰财经 时间:2023-04-11 17:32:17


(资料图片仅供参考)

事项:

4月11日,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》(简称《意见稿》,下同),现向社会公开征求意见。

平安观点:

新技术的“两面性”开始凸显,《意见稿》出台恰逢其时。2023年以来,以ChatGPT为代表的生成式人工智能快速发展,其智能化水平实现了“革命性”提升,具备了向各垂直行业应用的潜力,有希望成为未来的生产力生成工具。但是,生成式人工智能快速发展,也带来了诸多信息安全方面的风险。一方面,信息泄露风险,大量的敏感数据和AI交互之后,可能会被应用于迭代训练,造成敏感信息的泄露,尤其是国家、机构和个人信息,都面临着潜在风险;另一方面,AIGC被恶意应用的风险也在上升,可能被应用于恶意代码生成,发展智能化网络攻击武器,加大了网络安全防护难度。此外,由于大模型基于概率统计原理发展而来,其训练、调优、内容生成等环节的可靠性还需要持续观察,其大范围应用可能带来严重的社会问题。我们认为,《意见稿》的及时出台,恰在国内AIGC发展的早期,初期就做好合规工作,可以为AIGC的后续稳健发展保驾护航。

《意见稿》对生成内容、主体责任、数据源和数据处理等方面均做出了规定。1)内容方面:要求不得危害国家和社会,传递虚假、造谣和有害信息;在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,不得出现歧视;尊重知识产权,保证生成内容的准确性;不得侵犯他人的合法权益。2)明确主体责任:利用生成式人工智能产品提供服务的组织和个人,承担内容生产者责任,履行信息保护的义务。3)数据源:要求合法、不侵权,个人信息使用需要得到个人信息主体授权;人工标注要核验以确保标注内容的准确性。4)数据处理:提供者在提供服务过程中,对用户的输入信息和使用记录承担保护义务;不得生成歧视性、侵权内容,保证服务的持续运营;制止用户违规使用生成式AI的功能。

新技术发展和监管合规是相辅相成的关系。近年来,移动互联网、云计算、大数据、区块链等技术快速涌现,而且都实现了有序、蓬勃的发展,背后离不开监管在网络安全机制体制建设上的完善,以及产业政策引导,真正实现了“技术向善”。同时,监管政策也正在积极适应信息技术的革新。尤其AIGC面世以来,监管机构对数据处理主体、数据处理过程以及伴随的国家安全和信息安全的认识也在逐步清晰。我们预计,随着更多AIGC技术的应用落地,一些潜在的风险将更多的被认识和暴露,监管侧的监管措施也会更“对症”,《意见稿》只是第一步。

投资建议:监管政策的出台,对AIGC本身的成长以及相关安全产业的培育都是有积极意义的。AIGC方面,国内龙头科技企业均在考虑或已经推出大模型,算法、算力和应用均将受益,推荐科大讯飞、金山办公、浪潮信息、紫光股份、中科曙光、海光信息、龙芯中科,关注景嘉微和寒武纪。安全方面,监管趋严,AIGC服务提供商在信息安全尤其数据安全领域的投入将加大,国内安全厂商在AI安全领域的研发投入也在加大,强烈推荐启明星辰,推荐深信服、安恒信息和绿盟科技。

风险提示:1)合规风险上升。部分国家对ChatGPT较为严格,应用落地出现困难,如果后续国内采取类似措施,AIGC行业国内应用将存在较大挑战。2)国内大模型发展可能不及预期。虽然龙头企业持续在推出或规划推出大模型产品,但大规模应用落地还需要市场检验。3)供应链风险可能上升。AIGC在算力领域对海外供应商依赖比较严重,国产替代还需要时间,如果海外限制趋严,国内AIGC发展可能遭到迟滞。

(来源:平安证券)

粉丝特惠:好股票APP五个热门产品任选一款,体验五天!欢迎下载注册体验!

标签:

相关阅读