（上接第4版）

　　记者调查还发现，不少“AI霸总”背后由婚恋机构运作。在某短视频平台，记者给几位“AI霸总”点了关注后，私信即刻弹出对方发来的链接卡，声称“点击即可获得哥哥的联系方式”。

　　记者以中老年女性身份，按照链接卡的提示添加了贵州某婚恋服务公司的企业微信。记者提出想获得视频中“AI霸总”的电话，对方回复：“姐姐，我们是大哥的红娘，你要在我们这边花980元办会员，才能跟大哥联系。”

　　为了进一步了解这类“AI霸总”视频的生成、发布流程，日前，记者用生成式AI创作平台先后制作了3个10秒的“AI霸总”视频。在某平台，记者上传“AI霸总”角色图片后，系统自动识别匹配了“成熟总裁”的音色。设定完说话内容、动作描述，6小时后，记者得到了一个像模像样的“AI霸总”视频。另一App生成的“AI霸总”视频，耗时短至2—3小时。

　　随后，记者在某短视频平台注册了一个全新账号，用以测试制作好的3个“AI霸总”视频。不到18小时，账号收获了500多位粉丝，3个视频中，浏览量最高的达1.2万，较低的也已超过5000。同时，记者收到了中老年女性的大量评论、私信，有的在私信中向记者透露了生日、年龄等信息。

　　实际上，记者发布的“AI霸总”视频并不完美。在其中一个视频的制作过程中，记者设置了“缓缓掏出钻戒”的精细指令，而生成的“AI霸总”在完成这一动作时仅拿起钻石，将戒托留在了戒指盒中。但视频发布后，这一不合常理之处并未被指出。

　　应建立负样本库

　　依据多位受访家属的讲述，在老龄化社会，中老年人的情感需求普遍存在。“其实没能约束奶奶看短视频的原因也较令人心酸，奶奶不识字，在农村的娱乐活动非常有限。家里的年轻人也没有经常陪伴在身边。看短视频是她和爷爷为数不多的消遣方式。”罗珊珊说。

　　数据也佐证了这一点。2024年10月，由民政部等共同组织发布的《第五次中国城乡老年人生活状况抽样调查基本数据公报》显示，2021年，我国老年人生活在空巢家庭（包括独居家庭、仅与配偶居住家庭）的比例为59.7%，较2010年上升10.4个百分点。

　　一些场合下，“AI霸总”的出现只是“主打一个陪伴”。日前，记者点进某个“AI霸总”直播间，看到一位奶奶边包饺子，边与“AI霸总”连麦聊天。直播间的“AI霸总”开了语音，其音色是一个带地方口音的中年真人男声，与此前发布的AI视频里的声音完全不一样，但此时，“AI霸总”是谁似乎已不重要。

　　为什么中老年人容易“中招”？快思慢想研究院院长田丰深耕AI领域多年。他分析称，一方面，中老年人作为AI时代下的“弱势群体”，更容易相信“眼见为实”；另一方面，2023年起，AI数字人在短视频赛道被大量运用，当其被滥用于黑灰产，在评论区不断有人造势的情况下，老年人出于从众心理更容易上当受骗。

　　黄启瑞指出，因相信“AI霸总”视频遭遇财产损害，维权困难的原因在于当前生成式AI的技术门槛较低。一旦被骗，受害者因缺乏取证技术及工具，难以独立完成证据收集，证据链无法形成闭环。这种情况下，如果委托律师维权，又要承受高昂的维权成本。

　　《中国新闻周刊》检索短视频平台发现，当前大多数“AI霸总”视频都标有“内容由AI生成”字样，但仍有少量视频缺乏标识。值得注意的是，这类标识往往通过一行小字的形式出现在视频左下角，难以对用户起到显著提示作用。

　　依据国家网信办2022年11月颁布的《互联网信息服务深度合成管理规定》，深度合成服务提供者提供人脸生成、姿态操控等人物图像、视频生成编辑服务时，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。

　　田丰告诉《中国新闻周刊》，当前，仍存在一些不法团队通过对国外的开源工具进行修改，使生成的视频产品缺乏AI标识。黄启瑞认为，在这一问题上，短视频平台应加强对视频内容的监测过滤。

　　近日，记者向某短视频平台客服咨询“AI霸总”视频管理、屏蔽相关事宜。客服回应称，平台会持续优化推荐和标注机制，若刷到不喜欢的视频，用户可通过长按视频，点击“不感兴趣”按钮，或通过“屏蔽设置”为不喜欢的内容添加屏蔽词，系统会根据用户反馈减少相关内容推荐。

　　田丰建议，AI视频生成模型应建立负样本库。“希望这类模型去预训练一些负面样本，使模型能第一时间识别诈骗、黑灰产等用途的不良素材和指令，直接从源头上阻止不良视频的生成。”

　　（文中翁瑶、姜小星、罗珊珊均为化名）

　　据中国新闻周刊