虚假视频信息一直困扰着全世界的网络平台和用户，在AI技术与短视频制作融合后，它的风险和危害变得更加明显。利用AI系统，用户可以任意创建和编辑视频，这就意味着在短视频造假上面，它不但能够以假乱真，更能“无中生有”。有境外机构统计称，在所有Deepfake创作的视频中，色情视频占据了96%，“Deepfake已经成为攻击女性强有力的武器”。美国安全专家曾发出警告，称Deepfake可能成为对下届美国总统大选造成影响的最有威胁的人工智能技术之一。