AI监管｜网信部门依法查处"剪映""猫箱""即梦AI" 生成合成内容标识违法

  国家互联网信息办公室周二（4月28日）通报，近期网信部门工作中发现，"剪映""猫箱"App及"即梦AI"网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。

  国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。此次被点名的三款产品均隶属字节跳动旗下，覆盖视频剪辑、AI拟人化对话、AI图像视频生成三大核心赛道。这是《人工智能生成合成内容标识办法》于2025年9月1日施行约7个月以来，监管部门首次以官方公告形式具体点名平台。其中"从严处理责任人"为本轮通报力度最大的措辞，意味着追责将延伸到具体个人，而非仅限平台层面的整改。

  三款产品背景

  剪映：字节跳动旗下深圳市脸萌科技有限公司开发的视频编辑应用，2019年5月上线，面向普通用户、创作者及商业从业者提供视频剪辑、特效、美颜、音频处理、语音转字幕等服务，海外版为"CapCut"。2024年10月以3712万下载量位居全球应用下载榜第二，仅次于ChatGPT；同年12月，剪映及CapCut实现三位数收入增长，总收入接近百亿元人民币，全球月活跃用户已超8亿

  猫箱：字节旗下AI拟人化对话产品，对标Character.AI

  即梦AI：图片和视频生成产品，隶属于张楠负责的剪映团队，App端日活已突破百万

  我国《人工智能生成合成内容标识办法》于2025年9月1日开始施行，其中明确：通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，并提出任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识。人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

  国家互联网信息办公室相关负责人表示，网站平台要严守法律底线红线，严格落实人工智能生成合成内容标识相关规定要求。网信部门将深入推进依法管网治网，持续加大人工智能生成合成内容标识监督管理力度，切实维护社会公共利益，推动人工智能健康有序发展。分析人士指出，此次查处行动释放了监管层强化依法治网的明确信号，预示着生成式AI行业正从早期的"技术狂奔"转向"合规发展"的新阶段。