美国2024年总统选举尚未正式拉开帷幕，由人工智能技术合成的多条选举相关视频已在网络传播。业界专家和分析人士担心，人工智能生成的图像、音视频等深度伪造内容将大量充斥2024年总统选举，拉低两党竞选人攻讦、抹黑信息战的底线，令选民难辨真伪。

　　近期在美国社交媒体流传的一则视频中，美国前国务卿、民主党重量级人物希拉里·克林顿竟然支持共和党热门竞选人罗恩·德桑蒂斯。该视频由人工智能合成，内容全系伪造。

　　据路透社报道，美国社交媒体传播的数千条政治题材视频属于深度伪造。合成内容识别工具开发企业“深度媒体”估计，今年网络上发布的深度伪造视频数量是去年的3倍，深度伪造音频数量是去年的8倍。这家企业预计，全球范围内，今年将有约50万条深度伪造音频或视频在社交媒体发布。

　　非营利机构“人类技术中心”创始人之一阿扎·拉斯金说，技术行业竞相开发更先进的人工智能技术，却鲜有措施防止深度伪造技术工具生成的虚假信息传播。

　　生成式人工智能技术企业“米德朱尼实验室”首席执行官戴维·霍尔兹表示，可能会在2024年选举前做出调整，防止虚假信息传播。他说，希望业界开展合作，增强人工智能生成视频的“可追溯性”，例如添加数码水印。这家企业还考虑禁止使用竞选人形象。