标识制度让AI 更安全可信
原标题：标识制度让AI 更安全可信
《标识办法》与《标识方法》的制定体现了有关部门对迅猛发展的生成式人工智能技术及应用的迅速回应与积极作为，更为人工智能生成内容的风险治理贡献了中国方案
近日，国家互联网信息办公室、公安部等四部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》）。同时，配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识方法》）已由国家市场监督管理总局、国家标准化管理委员会正式批准发布，将于2025年9月1日与《标识办法》同步实施，引发社会广泛关注。
近年来，生成式人工智能技术及应用迅速发展，为用户生成合成多元化的文本、图片、代码、音频、视频、虚拟场景等信息提供了重要工具，促进了人工智能产业的繁荣，也为经济社会发展带来了巨大机遇。然而，生成合成内容真伪混杂、良莠难辨，存在传播虚假信息、危害网络生态、引发诈骗犯罪等多种风险。当前，许多国家和地区正探索将人工智能生成内容标识义务入法，国内外多家互联网公司也在逐步推进标识嵌入和管理举措。内容标识已然成为全球范围内治理人工智能生成内容风险的重要选项，我国对此尤为重视。
经过深入调研、广泛征求意见、多轮技术论证试点通过的《标识办法》和《标识方法》，系统建立了人工智能生成合成内容标识制度，满足了人工智能生成内容治理的多重迫切需求，具有重要意义。首先，《标识办法》的出台有利于内容溯源和风险防控。在“万物皆可AI”的语境下，机器生成的信息比例越来越高、内容越来越逼真，公众仅从信息外观上往往无法判断其来源与真伪。如放任虚假信息泛滥，将严重削弱社会公众对信息网络生态的信任。根据《标识方法》，标识可通过元数据嵌入各种信息，用于记录文件来源、属性、用途等，具体包括生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息，同时还可以嵌入数字水印等其他类型的标识，助力监管部门对人工智能生成内容进行溯源分析与研判，及时阻断违法信息和不良信息的传播，从而降低造谣、诈骗、信息污染等风险。
其次，《标识办法》的出台有利于更好保障用户权益。生成式人工智能不仅改变了人们获取信息、创作内容的方式，也使知情权、著作权等方面的权益保障需求变得愈发迫切。根据《标识办法》的要求，对人工智能生成内容的标识行为被具体化为显式标识或隐式标识。显式标识以显著形式发挥类似“署名”的功能，便于公众快速识别内容类型乃至生成来源，有助于保障使用者及公众的知情权，防范被误导、被诈骗的潜在风险。隐式标识则以相对隐蔽的形式隐含了有关作品生成的信息，可以更充分地发挥溯源功能，在防控风险的同时，有利于确认生成内容的著作权归属，保护原创作者的合法权益。
再次，《标识办法》的出台有利于营造健康、透明的内容生态。随着生成式人工智能技术的迅速发展和广泛应用，用户自行辨别内容来源及可信度的能力在具有规模性、逼真度和吸引力的生成合成内容面前日显单薄。《标识办法》和《标识方法》及时回应了对海量生成合成内容赋予“身份标记”的紧迫需求，并且建立了覆盖用户、各类网络信息服务提供者和互联网应用程序分发平台的义务与责任体系，极大便利了公众识别、平台治理和监管研判，为人工智能时代营造风清气正的网络生态提供了基础性的助力。
值得肯定的是，《标识办法》对于标识方案的选择广开言路、实事求是，统筹发展和安全，对于文本、图片、视频、音频等不同类型内容的标识采取了因事制宜的方案，同时鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识，对标识核验义务、应用审核义务和留存日志要求等也作出了合理规定，为稳妥有序发展切实可行的人工智能生成合成内容标识体系奠定了基石，并为大模型时代的信息内容生态治理铺平了道路。
《标识办法》与《标识方法》的制定体现了有关部门对迅猛发展的生成式人工智能技术及应用的迅速回应与积极作为，积聚了有益的行政立法经验，更为人工智能生成内容的风险治理贡献了中国方案。展望未来，生成式人工智能的应用场景还会不断拓展，现有的制度成果仍需紧跟时代步伐，持续优化完善，以更好地应对复杂多变的风险挑战。为此，要进一步充实和完善生成式人工智能风险治理的“制度工具箱”，建立融合支持发展、激励创新、防控风险、保障权益等多方面目标的人工智能风险治理体系，引导生成式人工智能技术及应用良性发展，为公众提供更加安全、可信、优质、可持续的人工智能服务，让人工智能真正成为推动社会进步、提升人类福祉的强大引擎，助力开创更加美好的数字未来。
（苏宇，中国人民公安大学法学院教授、数据法学研究院院长）
来源： 法治日报
相关推荐
-
微信新功能上线！网友：太方便了公众号，变得更方便了。随手可发手机端微信支持个人公众号一键注册和发布内容了。已拥有个人公众号的，进入“微信-公众号-右上角（个人中心）”，管理员能直接用手机撰写发布公众号图文/文章，回复留言私信，内容创作更即兴。还未有个人公众号的，点击“发表”按钮，填写信息就能快速注册，获得创作者身份。*目前该功能时间:2025-04-18 15:29:00 -
大型体育赛事与传媒行业深度融合的研究在“体育强国”战略纵深推进的时代语境下，大型体育赛事已超越单纯的竞技范畴，成为彰显国家文化软实力、塑造城市国际形象的重要载体。媒体作为中国体育故事的重要讲述者，在大型体育赛事报道中肩负着重要使命，不仅能够将赛场内外的精彩瞬间传递给全球受众，而且还可搭建起国际社会认知中国的符号桥梁，亦在更深层面上参与时间:2025-04-18 10:20:00 -
“投资北京”推介活动走进广交会，展示多元投资机遇出口展参展企业首次突破3万家，吸引超20万名境外采购商预注册，第137届广交会于4月15日在广州开展。4月16日，北京市投资促进服务中心组织北京市11个区投资促进团组，在广州举办“2025广交会－投资北京推介活动”。本次活动通过产业园区推介、对话交流、企业分享、展示与投资咨询洽谈等形式，积极对接广交时间:2025-04-16 21:02:00 -
医疗人工智能离普通市民并不远，上海将在静安等四区率先推广“健康画像”今天由上海广播主办的“2025上海民生访谈”上，上海市卫生健康委主任闻大翔透露，医疗人工智能离普通市民并不遥远，上海将在四区率先推广“健康画像”，掌握市民健康数据，为健康决策提供更科学参考。集成芯片、生物医药、人工智能作为上海的三大先导产业，是上海高质量和未来发展的重要方向。支持鼓励科技创新，尤其鼓时间:2025-04-16 14:31:00 -
甘肃省卫生健康委系统2025年公开招聘工作人员公告根据《事业单位公开招聘人员暂行规定》（人事部令第6号）和《甘肃省事业单位公开招聘人员暂行办法》（甘办发〔2011〕22号）和《中共中央组织部 人力资源社会保障部关于进一步做好事业单位公开招聘工作的通知》（人社部发〔2024〕57号）规定，现将甘肃省卫生健康委系统2025年公开招聘工作人员有关事项公告时间:2025-04-14 12:48:00