《生成式人工智能服务安全基本要求》发布
近日,全国网络安全标准化技术委员会(SAC/TC260)正式发布《生成式人工智能服务安全基本要求》(以下简称《基本要求》),从语料安全、模型安全等多个维度规定了生成式人工智能服务在安全方面的基本要求,适用于服务提供者开展安全评估、提高安全水平,也为相关主管部门评判生成式人工智能服务安全水平提供了参考。
《生成式人工智能服务管理暂行办法》(《暂行办法》)自去年8月15日起施行,其中规定了生成式人工智能服务的基本规范。10月,全国网络安全标准化技术委员于发布《基本要求》征求意见稿,得到了社会各界积极反馈。北京中关村实验室、上海人工智能实验室、浙江大学、百度、科大讯飞等参与了文件起草。《基本要求》对《暂行办法》等相关规定进行细化、解释,为落实《暂行办法》提供具体指引。例如,在语料安全方面,对服务提供者的要求具体分为语料来源安全、语料内容安全以及语料标注安全。语料内容安全方面,除过滤语料中的违法不良信息等,规定了知识产权方面的具体要求,主要包括:
1)应设置语料以及生成内容的知识产权负责人,并建立知识产权管理策略;
2)语料用于训练前,应对语料中的主要知识产权侵权风险进行识别,发现存在知识产权侵权等问题的,服务提供者不应使用相关语料进行训练;
3)应建立知识产权问题的投诉举报渠道;
4)应在用户服务协议中,向使用者告知使用生成内容时的知识产权相关风险,并与使用者约定关于知识产权问题识别的责任与义务;
5)应及时根据国家政策以及第三方投诉情况更新知识产权相关策略;
6)宜具备以下知识产权措施:
—— 公开语料中涉及知识产权部分的摘要信息;
—— 在投诉举报渠道中支持第三方就语料使用情况以及相关知识产权情况进行查询。
另外,《基本要求》还涉及安全措施要求,并给出了安全评估较具体的要求。安全评估可由提供方自行开展,也可委托第三方评估机构开展。附录中还明确了语料及生成内容的主要安全风险,涉及包含违反社会主义核心价值观的内容、包含歧视性内容、商业违法违规风险(包括侵犯他人知识产权,违反商业道德,泄露他人商业秘密,利用算法、数据、平台等优势,实施垄断和不正当竞争行为等)、侵犯他人合法权益的风险等。
《基本要求》还指出,除本文件提出的基本要求外,服务提供者应自行按照我国法律法规以及国家标准相关要求做好网络安全、数据安全、个人信息保护等方面的其他安全工作,还应紧密注意生成式人工智能可能带来的长期风险。
安全可信是生成式人工智能健康发展的必要条件,《基本要求》作为《暂行办法》在安全领域的具体支撑,是近期国内生成式人工智能领域的一个重磅文件,将推动行业进一步健康有序发展,应用加速落地。
(改编自科技日报)
新闻中心
卓越服务,让智慧成就非凡
卓越服务,让智慧成就非凡
卓越服务,让智慧成就非凡
卓越服务,让智慧成就非凡