AI标识办法已于9月1日起施行:
9月1日,由国家互联网信息办公室联合工业和信息化部、公安部、国家广播电视总局制定的《人工智能生成合成内容标识办法》(以下简称《标识办法》)正式施行。《标识办法》细化前期相关部门规章的标识相关要求,进一步发挥内容标识提醒提示和监督溯源的技术作用,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,推动人工智能产业健康有序发展。面临《标识办法》的正式施行,媒体机构准备好了吗?
完善内容管控制度与流程 落实《标识办法》要求
“在《标识办法》实施前,我们通过答记者问方式,向社会介绍《标识办法》的出台背景、工作思路、适用范围等内容。”中共北京市委网络安全和信息化委员会办公室(以下简称北京市网信办)相关负责人介绍说,北京市网信办向服务提供者明确了落实标识义务的工作要求、技术标准和可行路径。截至目前,北京市重点AI生成平台已全面完成显式与隐式标识功能部署,包括豆包、可灵、文小言、智谱清言等主流大模型产品。
在各大AI生成平台完成标识功能部署的同时,各应用AI生产传播的媒体机构也通过内容管控制度与流程全面落实人工智能生成合成内容标识工作。
中国警察网在海报、短视频两类内容中使用人工智能生成技术,目前人工智能生成作品已在画面适当位置加注“AI生成”水印,并在片尾帧嵌入“本视频由人工智能合成”提示。公安部新闻传媒中心编委孙军表示:“面对已实行的《标识办法》,我们中心将出台相应的管理措施,把已有的AI标识要求固化为工作流程。内部工作流程完善后,还将进行全员培训与场景演练,确保新规无缝落地。”
“《标识办法》的实施让编辑能更放心地使用AIGC功能,我们将审慎做好新技术应用全面准确的标识工作。”人民法院新闻传媒总社新媒体部主任张伟刚表示,传媒总社将依据《标识办法》,就AI作品继续加大层审力度,评估现有工作流程,明确要求所有AI参与生成的内容必须经过人工审核,并在发布前添加明确标识,也会将标识环节嵌入制作全流程,确保合规性。
贵州日报报刊社实现了将AI技术应用到选题策划、新闻采写、融媒体产品制作、传播互动、舆情分析、全场景生产线等层面。贵州日报报刊社编委、天眼新闻采编中心主任陈诗宗表示,他们将全面落实显式标识和隐式标识工作,规范新闻产品的内容传播,在现有的规章基础上,优化出台管理制度,让技术更好服务内容生产。
目前,在新重庆—重庆日报的内容制作环节,AI技术应用也已覆盖平面设计、视频后期、音频处理及文案生成等多个方面。“我们高度重视合规运营,已积极组织学习《标识办法》内容。”重庆日报报业集团副总编辑周秋含介绍,重庆日报报业集团已在应用AI技术生成的内容中规范添加标识,确保用户清晰知悉相关内容为人工智能生成或辅助生成。
《标识办法》实施后,媒体机构不仅可借助标识快速溯源虚假信息,还可对合规标识的内容进行“官方认证”,提升公众信任度,更好地维护社会公共利益,推动行业AI应用健康有序发展。
落实“显式+隐式”双标识体系 打通跨平台识别通道
《标识办法》的一大亮点是首创了“显式+隐式”双标识体系。“北京市重点AI生成平台在生成文本、图像、视频等内容时,均实现‘AI生成’水印的可视化标注与元数据的隐式标识。”北京市网信办相关负责人介绍说,北京市网信办通过组建AI内容标识互认互识联盟,推动各平台案例共享、技术互鉴与经验互促。目前,抖音、快手、微博、百度等头部传播平台已初步打通隐式标识的跨平台识别通道,有效推进AI内容“生产—传播—使用”全链条规范化管理。
当前,今日头条、快手、小红书、哔哩哔哩、微博、知乎等头部传播平台已发布“关于AI生成合成内容标识的公告”,为各媒体机构在其平台发布含AI制作内容的标识工作提供技术支撑。而各媒体机构也在各自的生产传播平台上构建起了AI标识的支撑架构。
“无论海报被裁切还是短视频被二次剪辑,我们力求将水印与语音提示都能留存,确保显式标识的显著性与持久性。”孙军说,在隐式标识层面,公安部新闻传媒中心运用数字水印和元数据形式写入模型名称、版本号、生成时间、平台编码及内容编号,实现标识信息可溯源。同时,建立可审计的责任链,从生成、审核到分发的每一步均留痕加密,保存不少于6个月,以备抽查。
“因显式标识对普通观众最为直观透明,能直接履行告知义务,传媒总社网络新媒体作品主要采用显式标识。”张伟刚介绍道,如在视频角落添加“AI生成”“AI配音”水印,或在描述中文字注明等。未来,在技术升级中将考虑引入隐式标识,把标识信息写入文件底层,既能满足监管要求,又能适应多平台分发的技术环境,实现标识的持久化和可追溯。
“我们的新闻产品在标注AI生成内容时,严格遵循相关标准,对涉及的视频和图片内容在相应位置进行明确显式标识,有效提醒用户辨别信息源头,降低信息误判风险。”陈诗宗认为,随着技术不断发展,显式标识存在被篡改或去除的可能性,需进一步引入隐式标识机制作为有效补充。通过使用数字水印、哈希值或特定噪声模式等不可见技术手段,将识别信息嵌入内容底层,实现在不影响用户体验的前提下,加强机器可读、抗编辑、防篡改的可靠追溯能力。
“《标识办法》正式施行前,我们在新闻内容生产过程中主要采用显式标识,以醒目的方式明确标注,确保用户能够清晰、直接地感知。”周秋含表示,这主要是因为重庆日报报业集团现今的AI技术应用仍以辅助性、局部性为主,尚未推出整体生成作品。随着技术迭代与AI应用深度的不断提升,重庆日报报业集团将按照《标识办法》实施双标识体系,在文本首部或者尾部、图片显著位置、音频视频开始播放位置加上显式标识,在生成合成内容文件数据中添加不易被用户明显感知到的隐式标识。
“人工+智能”协同审核 完善监督检查机制
“9月1日起,《标识办法》正式实施,国家网信办将在全国范围内部署开展‘清朗·整治AI技术滥用’专项行动,对AI生成平台与传播平台标识落实情况进行核查验证。”北京市网信办相关负责人表示,北京市网信办也将进一步强化AI技术源头治理,清理整治违规AI应用程序,推动网站平台提升检测鉴伪能力等,持续规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益。
面对“清朗·整治AI技术滥用”专项行动,各媒体机构也已做好了充足的准备。
“我们现已使用AI大模型开展技术开发工作,如中心内网网站页面代码生成、网站系统功能模块开发、ERP系统安全升级改造等。”孙军介绍,在当前的使用过程中已落实相应的标识规定,在代码注释中加入相应的标识、出处等信息,方便后期进行管理和维护。后续,公安部新闻传媒中心将按照《标识办法》的相关规定,进一步完善技术开发中的AI应用相关管理制度。
“目前传媒总社网络新媒体作品主要通过编辑审核、层报审核的方式进行人工监督检查,并将标识合规性纳入团队绩效考核。”张伟刚表示,自《标识办法》发布以来,中国法院网第一时间转载了相关要求,网络部、新媒体部建立了完善的审核制度,明确要求所有AI生成内容必须进行显著标识,将AI技术与人工复核查验紧密结合,所有内容均需通过“三审三校”流程验证,确保内容导向正确、事实准确、表达规范。未来,还将考虑引入“AI治理AI”的机制,使用AI检测工具,对平台内容进行自检测,识别遗漏标识的AI内容,以此构建人机协同的闭环监管体系,大幅提升效率,降低人为容错率。
贵州日报报刊社在技术开发方面也已使用了AI辅助开发。“技术开发部门现已制定了相应的标识规范,要求在使用AI生成代码的部分在代码注释里进行标识。”贵州日报报刊社大数据研发应用中心副主任袁鹏说,报社同时还把人工智能生成合成内容标识通过“三审三校”流程对内容标识做监督检查。下一步,贵州日报报刊社将进一步完善内部内容标识管理规定,设置专门的内容标识审核环节,利用AI技术对内容标识的完整性、合规性进行自动检测等。
“目前,我们使用AI辅助开发,不断优化人工智能生成合成内容规范,建立并动态修订内容标识实践。”周秋含说,就AI生成的文本、图片、音频、视频、虚拟场景等信息,严格落实显式标识与隐式标识要求,进一步强化传播环节标识管理,并对内容标识开展监督检查。未来,重庆日报报业集团将进一步完善相应的监督、考核制度和流程保障,并将通过“机器+人工”的方式完善检查机制,特别是针对AI生成内容以及转载内容的监督检查。
作为监管部门,北京市网信办也通过北京地区的服务保障实践探索给各媒体机构提供了《标识办法》落实与AI应用发展新思路。据北京市网信办相关负责人介绍,北京市网信办以大模型生态服务站为纽带,搭建政策对接与技术交流平台,开展精准培训与指导;以政策合规为牵引,帮助企业解决落地难题,推动产业高质量发展。
《标识办法》的实施对媒体机构而言可能存在短期内增加运营成本的问题,但从长期来看则会推动传媒行业建立更可信的内容生态。AI标识为AI技术在传媒行业应用划定了安全跑道,让应用产品更合规可信,使未来AI的创新发展更可持续。
“中国新闻出版广电报”新媒体矩阵:
集团旗下品牌新媒体矩阵: