快手生成式人工智能导演共创计划作品《雏菊》海报。
人社部与“可灵AI”合作发布的职业数字画像。
人社部与“可灵AI”合作发布的职业数字画像。
由抖音、博纳影业AIGMS制作中心联合出品的AIGC科幻短剧集《三星堆：未来启示录》海报。本文图片来源于网络。
伴随生成式AI大模型迭代升级，越来越多的AI创作工具入驻各大互联网平台，人工智能正融入内容创作生产的方方面面。
生成式AI有哪些“能耐”？它让互联网空间出现了哪些变化？面对随之而来的机遇与挑战，互联网平台又应如何应对？
满足多种创作需求
家住北京的刘女士有个新爱好：用AI特效拍短视频。视频作品里，她一会儿变回幼时的自己，一会儿穿着长裙漫步在洱海畔，一会儿化身冰雪公主，甚至家里的小猫也开口讲起了段子……她感叹：“每天都能发现新花样！”
让刘女士着迷的这些特效背后，是生成式AI大模型正在各类互联网内容平台中普及。
打开小红书，用户能借助AI“一句话生成配图”，文字内容更容易传播分享；打开涂鸦界面，随手画上两笔，就能生成像素风、毛绒公仔、积木、手绘等风格的图片。
喜马拉雅平台经过百万小时的自有版权音频数据训练，依托全品类音色库，让用户只要录十几秒音频，就能生成一本自己音色“朗读”的有声书，还能一键切换语种甚至方言。
借助抖音推出的剪映，用户不仅能用AI配音、生成文案和图片，甚至只需上传视频片段，就能一键生成配好了旁白、音乐的短视频。截至2025年2月，抖音“AI绘画”的标签已有468.8万人参与，累计484.9亿次播放。
使用快手推出的“可灵AI”，用户上传文字描述和参考图，就能实现图生视频。2024年9月，人社部中国就业培训技术指导中心与“可灵AI”联手，发布“职业数字展馆”短片，首次以AI方式全景呈现职业数字画像。当年12月，快手平台又上线了生成式人工智能（AIGC）导演共创计划，9部电影短片亮相，涵盖奇幻、亲情、动画等多种类型。
生成式AI能理解人类语言，学习海量数据，并自主创造文字、图像、音频和视频。有了AI大模型技术，互联网平台正开发出更多便捷的内容生成工具，更多创作需求得到满足，每个人脑海里的想象都可能出现在眼前。
丰富互动模式
河北石家庄的王先生有个新发现：自己常用的“今日头条”上，多了个“专属AI助理”功能入口。
他在“头条AI”里提问“国际金价趋势是什么”，不出几秒就生成了答案。以往分散在媒体文章、政府文件、专家访谈里的数据与信息，被简明扼要、条分缕析地呈现出来。对哪个观点有疑问、想了解对自己工作的实际影响，还能和AI进一步讨论。
“以往我只把头条当成搜新闻的工具，现在‘玩法’更多了。”王先生感叹。
记者发现，近期，新浪微博、小红书、微信“搜一搜”、哔哩哔哩等平台均推出了“智能搜索”，基于平台数据库，辅以大模型联网搜索、深度思考等技术，AI能针对用户问题生成个性化答案，帮忙总结筛选搜索内容。
基于每个平台不同的内容生态，不同的AI搜索也有不同的特长。以小红书推出的生活搜索应用“点点”为例，依托小红书上大量生活方式、旅行打卡类笔记，“点点”在定制旅行攻略、搜集生活妙招时格外好用。
“前几天我去杭州玩，‘点点’就帮了大忙。”湖北网友小宋告诉记者，“它不仅根据我的时间和预算生成了推荐行程，还参考其他网友的真实笔记，推荐了本地美食、小众拍照打卡点，点击就能跳转到原文。再也不用手动找攻略了！”
除了让搜索更省力、更有趣，生成式AI大模型还能让网络互动更丰富。
近几年，不少微博用户发现，有个叫“罗伯特”的“网友”不时出现在自己的评论区，有时毒舌吐槽，有时暖心激励，有时还能开几个颇有哲理的玩笑。它不是真人用户，而是基于微博知微大模型训练而成的AI机器人。
微博有高互动、强时效的特点。“罗伯特”以微博社区数据和最新知识库作为训练语料，做到对平台“热梗”了如指掌，常蹦出令网友津津乐道的“金句”。目前它的账号拥有167万粉丝，日互动次数超过11万。
如今，“互动AI”已成为各网络平台的标配。比如，哔哩哔哩上有许多优质知识分享长视频，网友可以将视频分享给“AI课代表”，一键获取视频摘要。
发挥AI的最大效能
AI的内容生成能力，人们有目共睹，但想要让生成式AI发挥出赋能内容创作的“最大效能”，还必须扫清同质化、虚假、低质内容等“绊脚石”。
小铭是一名艺术史领域的博主，她的视频以知识分享为主，每次都需要悉心策划选题、阅读消化大量专业资料。她对记者吐起了“苦水”：“我们花一个月原创的内容，有时刚一发布就被别人AI洗稿，流量还比我们好，真的很无奈。”
据了解，伴随生成式AI技术的发展，市面上出现一些专业洗稿工具，支持快速改写、批量发布等操作，让抄袭洗稿变得更快、更容易、更隐蔽。
同时，AI丰富了网络内容的供给，却也可能带来虚假谣言。
近期，公安网安部门依法查处一起编造“学校发生火灾”网络谣言案，涉事网民正是利用AI软件合成学校发生火灾的图片并传播，造成严重不良影响。2024年公安部公布的10起打击整治网络谣言典型案例中，有4条涉及使用AI造谣。
互联网平台接入AIGC创作工具的同时，应如何做好防范？
今日头条在2024年开启治理，对抄袭、洗稿等采用“零容忍”态度，同时加强对AI内容的审核力度。
通过持续迭代模型、增强系统对低质AI内容的识别能力；辅以加强人工审核、上线“AI创作内容”标签、发布违规治理公告等举措，平台全年共对超过93万条低质AI内容进行了识别和管控，对近3万个利用AI批量发布虚假低质内容或恶意抄袭、洗稿的账号进行了处罚。
通过完善谣言库、权威信源库，组建医疗、财经、体育等专业领域的人工审核团队，今日头条去年共拦截不实信息超500万条，处罚涉及造谣的账号超4.7万个。
现有治理手段外，各平台还在探索“用AI治理AI”。
目前，今日头条已将AI模型引入识别AI生成虚假信息的流程。“我们将‘一眼假’的内容交给AI模型快速解决拦截，模型无法解决的复杂问题则交由专业审核人员判断。”平台相关负责人告诉记者。
为何AI能够更加快速高效地识别虚假信息？负责人解释，关键在于生成式AI大模型能够通过学习发文风格，更精准地锁定虚假内容。
比如体育娱乐类内容，权威信源较少，容易出现错判；治理人员通过分析海量数据，发现这一领域的虚假内容往往伴随着夸张的文风和用词。因此，平台在虚假信息检索链路中引入“AI模型学习虚假内容写作风格”机制。这一做法显著提升了虚假谣言的拦截量级和拦截效率，用户满意度也提高了。
未来，大模型能力不断升级，“扬长避短”最大化AI效能的探索也将进一步深入。
北京师范大学法学院院长梁迎修认为，借助AI的生成能力，未来网络平台还可以根据目标受众的认知偏好和背景信息，生成个性化的辟谣信息，帮助内容市场“庄稼代替杂草”“良币驱逐劣币”。
同时，AI还能用于协助追踪相关内容在网络上的传播路径，及时发现并预警，干预和制止不良信息扩散，同时便于事后追责。
然而，多名专家也指出：AI生成内容的治理具有复杂性，需要多方力量配合支持。执法机构要做好法治保障的护盘手，建立“技术取证—电子证据—司法鉴定”的全链条执法标准，用户也应成为理性的受者和传者，对可疑内容主动进行核实。（本报记者 霍旻含）
《人民日报海外版》（2025年03月03日 第 08 版）
