《生成式人工智能服务管理暂行办法》发布，数智时代亟待安全护航
7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。
《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。张卓认为，促进发展和防范风险需要两者并重，从《办法》可以看出，数据安全和隐私保护贯穿于生成式人工智能数据的标注、模型预训练、模型训练、提供服务等各个环节，避免了监管盲区导致的安全风险，具体来看有以下亮点值得关注。
-
首先，《办法》从源头层面，对数据标注提出了明确规范。所谓数据标注，指的是对未经处理的语音、图片、文本、视频等原始数据进行加工处理, 使其成为结构化数据让机器可识别的过程。因此，它决定着生成式人工智能最底层“原材料”的安全属性。《办法》第八条要求，在生成式人工智能技术研发过程中进行数据标注的，生成式人工智能服务提供者（以下称提供者）应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升遵法守法意识，监督指导标注人员规范开展标注工作。
-
其次，《办法》从数据训练处理环节，明确并细化了监管要求。《办法》第七条指出，提供者应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：包括使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；并遵守《网络安全法》、《数据安全法》、《个人信息保护法》等相关法律、行政法规以及相关监管要求。
-
最后，《办法》从数据服务和使用环节，形成了监管闭环，避免了安全盲区。办法在第三章“服务规范”第九条中指出，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。第十一条指出，提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息。第十二条提出，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识等等。所有这些措施，都充分考虑到了生成式人工智能的使用服务场景，尤其是面向公众的场景。
在不久前的2023全球数字经济大会数字安全高峰论坛暨BCS 2023北京网络安全大会上，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东曾表示，2023年上半年，以ChatGPT为代表的生成式人工智能像沉寂多年的火山突然喷发一样，让全社会惊喜，社会已经进入数智时代，也就是数据和智能的时代，让网络更安全、让数据更安全将成为政府、企业和社会组织的主要任务。在数智融合的大潮之下，《办法》的发布，对于促进生成式人工智能健康发展和规范应用，强化对数据安全和隐私保护的监管和落地，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益等具有重大意义。
网站声明：如果转载，请联系本站管理员。否则一切后果自行承担。
- 上周热门
- Kingbase用户权限管理 2020
- 信刻全自动光盘摆渡系统 1749
- 信刻国产化智能光盘柜管理系统 1419
- 银河麒麟添加网络打印机时，出现“client-error-not-possible”错误提示 1013
- 银河麒麟打印带有图像的文档时出错 923
- 银河麒麟添加打印机时，出现“server-error-internal-error” 714
- 麒麟系统也能完整体验微信啦！ 657
- 统信桌面专业版【如何查询系统安装时间】 632
- 统信操作系统各版本介绍 623
- 统信桌面专业版【全盘安装UOS系统】介绍 597
- 本周热议
- 我的信创开放社区兼职赚钱历程 40
- 今天你签到了吗？ 27
- 信创开放社区邀请他人注册的具体步骤如下 15
- 如何玩转信创开放社区—从小白进阶到专家 15
- 方德桌面操作系统 14
- 我有15积分有什么用? 13
- 用抖音玩法闯信创开放社区——用平台宣传企业产品服务 13
- 如何让你先人一步获得悬赏问题信息？（创作者必看） 12
- 2024中国信创产业发展大会暨中国信息科技创新与应用博览会 9
- 中央国家机关政府采购中心：应当将CPU、操作系统符合安全可靠测评要求纳入采购需求 8
