黄牛号贩子跑腿代挂号（18910288832）微信需要挂号联系客服（18910288832）各大医院服务项目！专家挂号，办理住院加快．检查加快，产科建档，指名医生挂号北京，上海，南京，天津．广州，各大医院代挂号

江苏省苏州市“人工智能+”创新发展推进大会上展示的人形机器人。新华社发

在山东青岛某中学举行的科技节活动中，学生们观看机器狗表演。 张鹰摄/光明图片

【经济界面】

夜深人静时，有人找它线上聊天、获取慰藉；视频带货时，有人用它快速生成营销文案；同学聚会时，有人用它现场作诗助兴……它，就是很多人眼中的“生活好帮手”“工作好搭子”——人工智能（AI）大模型。

近期，多款大模型产品横空出世、风靡全球，再次掀起人工智能热潮。但与此同时，也有一些人利用人工智能生成合成虚假内容，或为吸引眼球、赚取流量，或试图以假乱真、造谣诈骗等，带来一定风险和隐患，引发社会关注。

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《办法》）。《办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，将于2025年9月1日起施行。

如何让人工智能生成合成内容“亮明身份”，不再“真假难辨”？如何破解人工智能安全治理难题？记者就此进行了采访。

人工智能合成让人真假难辨

小猫小狗随着音乐跳起舞蹈，家中“萌娃”大战公鸡……在短视频平台上，人们不时会刷到类似视频。其实，一些传播量、点赞量都很大的“神奇视频”并非是真实的，而是由人工智能生成合成的。

所谓人工智能生成合成内容，是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

近年来，人工智能技术快速发展，为生成合成文字、图片、音频、视频等信息提供了便利工具，海量信息得以快速生成合成并在网络平台传播，在促进经济发展、丰富网上内容、便利公众生活的同时，也带来生成合成技术滥用、破坏网络生态等问题，引发社会各界的关注。

“一些喜欢我参演的影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。”一位演员说，希望能建立更好的规范。实际上，不少公众人物都遭遇过类似问题。

公安部数据显示，近两年来，全国共发生“AI换脸”类诈骗案近百起，累计造成的经济损失高达2亿元。

“人工智能生成合成内容日益逼真，也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险，并削弱着公众对网络传播内容的信任根基。”中国工程院院士、浙江大学教授陈纯说。

中国电子信息产业发展研究院副总工程师刘权认为，人工智能大模型本身存在不可解释性问题。大模型运作机制不透明，产生的“黑箱”属性导致不可解释性。这种不可解释性降低了可信度，使得输出的内容可能存在事实性错误和偏差，特别是在医疗、金融等领域，难以满足严苛的可信要求。

中国社会科学院大学互联网法治研究中心主任刘晓春表示，通过人工智能生成合成技术降低了内容“伪造”“造假”等的时间成本，尤其在图片、音频、视频等领域，从早期引起广泛关注的“换脸”工具，到伪造人声、通话视频的诈骗活动，再到“被压在废墟下的小男孩”等热点事件，人工智能技术带来的深度伪造、虚假信息、不良信息、抄袭侵权等问题，对包括内容治理在内的网络空间秩序构成挑战，对治理工具、方式和手段也提出了更新更高的要求。

数据显示，截至2024年底，共302款生成式人工智能服务在国家网信办完成备案，其中当年新增238款备案。

“当前，大模型能够生成高真实感的文本、人像、场景、音频，普通民众不借助检测工具往往很难辨别内容真伪。”中国科学院计算技术研究所数字内容合成与伪造检测实验室主任、研究员曹娟认为，随着生成式人工智能技术在各个行业落地应用，生成合成内容的数据规模快速增长，对生成内容进行全面检测成本太高。生成合成内容适用场景大幅扩展，助长了欺骗场景多样化。

打造可信赖的AI技术