鸡毛百科 手机版
时间 公司 贷款 企业 费用 车辆 万元 银行 中国 自己的
当前位置: 首页 > 实时讯息 >

技管联动推动AI内容标识落地落实!专家解读《标识办法》

《人工智能生成合成内容标识办法》(简称《标识办法》)将于9月1日正式施行。为助力新规落地实施,“人工智能生成合成内容标识政策法规宣讲活动(广东站)”4月18日在广州举行。《标识办法》及配套国标(简称《标识方法》)的参编专家深入解读政策要点,企业代表分享执行思路及举措。同时,还多方共议生成式人工智能内容安全保障,为AI谣言治理建言献策。

专家指出,《标识办法》和《标识方法》通过标识机制提升内容透明度,帮助用户辨别虚假信息,并明确相关主体的责任义务,规范内容制作、传播环节的标识行为,与现有法规形成联动。通过管理规定与技术标准协同,确保政策可落地、可实施、可考核,形成安全治理与产业发展的良性平衡。未来还将不断完善标识技术体系,探索建立生成式人工智能治理长效机制,提高公众的人工智能素养与标识意识。

打出“管理+技术”组合拳

推动AI内容标识落地落实

近年来,随着人工智能技术持续迭代发展,利用真假难辨的AI生成内容伪造恶搞、编造新闻、钓鱼诈骗等现象已初步显现,生成式AI带来的新型风险挑战不容忽视。防范AI风险,促进产业良性发展迫在眉睫,帮助公众识别AI生成内容,减少虚假信息传播,增强公众对互联网传播内容的信任,厘清虚假内容生产传播责任链,也成为网络信息内容生态治理的重要一环。

与此同时,我国人工智能安全治理体系正在不断完善。此前《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关规定已明确提出“标识”概念,并将既有的标识要求延伸至生成式人工智能的安全治理工作中。专家表示,此次《标识办法》的发布与施行,是对标识工作的“再明确”与“再细化”,推进相关规定的落地和落实。

目前,对AI生成合成内容进行标识已成为国际共识,而我国率先打出内容标识“管理+技术”组合拳,将标识工作推进至实践层面,为全球AI治理贡献中国智慧。专家指出,《标识办法》聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。

专家对《标识办法》做出深入解读。

而《标识方法》作为《标识办法》的配套技术标准,明确了生成合成内容标识应当遵循的技术方法,为产业落地提供了参考依据。“‘技管结合’中的‘技术’”,首先体现在强制标准上。”宣讲会上,专家介绍,与《标识办法》同步发布的《标识方法》作为首个人工智能领域强制性国家标准,具有一定法律属性,企业提供相关服务时需符合全部条款。通过管理规定与技术标准联动,确保政策可落地、可实施、可考核,形成协同治理合力,并通过持续不断提升技术水平,构建技术能力,实现管理要求与技术手段的有机结合,提升人工智能安全治理能力。

构建“显式+隐式”双层标识体系

强制性国家标准指引产业落地

专家指出,《标识办法》通过构建显式与隐式双层标识体系,形成可识别、可追溯的AI内容标识规范。其中,显式标识的基础要求是能被用户明显感知,根据AI生成与合成内容分模态场景提出具体标识要求。隐式标识则考虑企业实践成本,对技术难点如文本隐式标识、数字水印等不强制要求,提供低成本实施方案,为创新保留空间,平衡安全与管控。

其次,《标识办法》重点关注传播环节,对网络信息内容传播服务提供者衔接显式与隐式标识、用户声明标识与服务、伪造内容识别等方面均作出相关规定。从内容生成到传播建立全链条责任机制,明确各方标识义务,通过元数据验证解决“谁生成的”“从哪里生成的”等关键问题。

《标识办法》还充分考虑用户侧情况,要求服务提供者对用户做出相关提醒,用户也需遵守标识相关规定,同时也给用户申请无显式标识内容的需求留出制度空间。此外,《标识办法》还衔接审核环节要求,对互联网应用分发、深度合成及生成式人工智能备案环节作出提供及核验生成合成内容标识相关材料的相关规定。

区别于《标识办法》对多主体提出相关标识要求,《标识方法》重点聚焦于AI内容制作与内容传播平台,对显式与隐式标识实践给予了具体的标准指引。此外,《标识方法》在给出人工智能生成合成内容标识技术方法的基线要求的同时,也为探索不同应用场景下,兼顾“明显提示用户”和“考虑用户使用体验”预留了空间。例如在驾驶员与车载终端高频语音交互时,如果智能驾驶助手每次语音回复均播报语音标识,不仅影响交互体验,更可能对驾驶安全性造成影响。因此,可通过设置在一轮交互中只提示一次等方式避免频繁提示对人工智能的实际应用造成影响。此外,专家还进一步讲解了《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》,对文件元数据隐式标识中服务提供者的编码结构、赋码规则、组织与个人的编码示例做出了详细介绍。

宣讲会上,专家详细介绍《标识方法》。

不断完善标识技术体系

探索建立生成式AI治理长效机制

在宣讲会上,专家强调,人工智能是“矛”与“盾”同步发展的状态,《标识办法》并非生成式人工智能治理的终点,而是实现路径。未来还将不断完善标识技术体系,在原有技术的基础上不断创新,突破数字水印广泛应用的技术难题,探索高泛化性的生成合成内容检测技术,开发更高效的识别AI生成内容的检测工具和水印检测算法,以及基于数字水印的内容防伪技术。同时还将积极参与IEEE、ISO/IEC等国际标准的制定与推广,以及相关国家标准、技术文件、实践指南的研究制定,推动技术认知形成行业共识。

在社会层面,还要探索建立生成式人工智能治理长效机制,引导组织政府、企业、研究机构和社会组织共同参与,推动标识的广泛应用,并以此为基础进一步完善制度体系。此外,还要通过对公众进行标识的说明与合规引导,培育用户正确使用相关服务的安全意识,防范生成合成内容引发的相关风险。

“今年年初,DeepSeek完成了让人们使用AI的教育,《标识办法》则是要进行让用户安全使用AI的教育。”专家表示,随着《标识办法》施行,不断强化用户的标识意识,给AI生成内容“打标”将会逐渐成为一种习惯。而这可以提升公众对于信息内容真实性、来源可追溯性的批判性评估能力,提高公众人工智能素养,确保人工智能技术成果普惠共享。

据悉,本次宣讲会由中央网信办网络管理技术局、广东省委网信办指导,中国网络空间安全协会、广东省网络数据安全与个人信息保护协会主办,南方都市报、南都大数据研究院承办。

出品:南都大数据研究院

采写:陈袁

相关文章
  • 对话领航者:金海消防李新晨——探索智慧化转型 开启全智能时代

    鲁网7月7日讯与领航者零距离,探究成功的奥秘。消防,保护着千家万户的幸福安康;消防工程,贯穿着城市发展的脉络与中枢。走进山东金海消防工程有限公司,与总经理李新晨面对面,了解这家消防工程企业的发展脉络与探索智慧化转型的全新未来。企业核心业务与标杆项目:资质与实力双驱动李新晨,1972年出生于山东省滨州

    2025-07-07 11:15:00
  • 监管严查,专家支招!昆明吃菌指南教你安心吃遍山珍

    雨季至,菌香浓!每年此时,昆明便迎来一场与自然的饕餮之约——全国最大野生菌交易市场云南木水花野生菌交易中心人头攒动,松茸、鸡枞、干巴菌等数百种山珍从云岭大地汇聚于此,再奔赴千家万户的餐桌。木水花市场里售卖的鸡枞。记者王俊星摄云南,以占全国90%的野生菌种类和松茸、松露等世界级珍馐的产地优势,稳坐“野

    2025-07-04 16:41:00
  • 张江智谱发布最新大模型研发成果,并获10亿战略投资!

    2分钟生成打砖块弹球小游戏、可以通过鼠标操作缩放的3D太阳系模型;5分钟生成包括封面、文字和精美图表等在内的PPT;还可以利用大模型解说苏超联赛、电影片段等……7月2日,智谱开放平台产业生态大会在浦东张江科学会堂举行。大会上集中呈现了智谱在多模态智能与MaaS生态的最新成果,并宣布浦东创投集团和张江

    2025-07-02 19:26:00
  • 国铁集团:充电宝上火车 尚不需检查3C标识

    新华社北京7月1日电(记者樊曦)坐飞机需要严查充电宝是否有3C标识,坐火车是否也有类似规定?记者1日从中国国家铁路集团有限公司获悉,根据相关规定,只要充电宝额定能量不超过100Wh就可以携带上火车。日前,民航局发布通知,禁止旅客携带没有3C标识、3C标识不清晰、被召回型号或批次的充电宝乘坐境内航班,

    2025-07-01 22:09:00
  • 今年我省新增98个本科专业点,人工智能等专业成“新风口”

    今年全省高考各批次录取分数线已经揭晓,志愿填报、专业选择成为考生和家长热议的话题。今年我省新增98个本科专业点,人工智能、新能源材料、智能制造等热门专业成为“新风口”。今年我省高校招生录取工作将于7月8号开始,8月20号结束。今年启动首届招生的长沙科技学院,面向全省安排了3000个本科生招生计划,设

    2025-06-25 19:28:00
  • 广州花都一居民楼受地震影响楼体倾斜?官方:未发现安全隐患

    新京报讯 据广州花都发布消息,网传花都区叶榕街5号广州融创雪域澜庭一居民楼受地震影响、楼体倾斜。经专家现场巡查和设备检测,未发现安全隐患。请各位市民不传谣不信谣不造谣,以官方发布信息为准。区住建部门将持续监测,确保安全。此前,广州花都发布情况说明称,网传花都区叶榕街5号广州融创雪域澜庭一居民楼受地震

    2025-06-24 07:36:00
  • 新时代影视动画高技能人才如何“出品”

    数字创意产业作为我国战略性新兴产业的重要组成部分,近年来在政策驱动、技术革新和市场需求的多重作用下实现了跨越式发展,成为推动经济转型升级和文化软实力提升的关键引擎。在国家及重庆市数字创意产业蓬勃发展的宏观战略引领下,笔者所在的重庆工商职业学院影视动画专业以新技术、新工艺、新规范、新产业为核心驱动力,

    2025-06-24 07:10:00
  • “一把手”沉浸式走流程 济源北控水务优化供水服务再升级

    河南经济报济源讯 为贯彻优化营商环境决策,提升供水服务质量,6月20日,济源北控水务有限公司开展“一把手走流程” 活动。董事长王海涛走进供水服务大厅,以用户和工作人员的双重视角,沉浸式体验用水业务全流程。活动中,王海涛以用户身份,详细询问用水报装流程、办理时限、收费标准等核心问题,并依要求提交材料。

    2025-06-23 23:48:00