2025-02-17 22:27:07amortrigo_2400
多位知名人士遭遇“AI换脸”，这些套路要警惕
2024年11月，江西一位65岁的女士为了资助其所谓的男朋友“靳东”拍摄电影，前往银行欲办理200万元的贷款。经调查发现，该女士在短视频平台上认识的“靳东”是骗子冒充的，骗子所发布的视频也是由AI合成的
眼见非实”的AI技术存在破绽
所谓“AI换脸”，实际上是通过精准识别人脸图像，提取关键面部特征，并利用深度合成技术将这些特征与目标人脸图像进行匹配、替换、融合。在此基础上，通过背景环境渲染和合成声音的添加，生成看起来非常真实的虚假视频。这一技术也彻底颠覆了人们对于“眼见为实”的传统认知。
技术本身并无善恶，只是一些不法分子为了谋取私利，滥用此技术，将一些名人的脸替换到特定的视频中，制造出虚假的内容，实行诈骗。
尽管换脸AI模仿能力强，但是并非没有破绽。通过AI合成的视频，往往存在许多AI痕迹。比如，人物的面部表情、眼神和动作可能不协调，尤其是在表情的细微变化和眼神的自然流转上；也会出现视频画面不连贯、背景与人物融合不自然等情况；同时，还会出现语音、语速和口型不匹配的问题。
此外，“AI换脸”也存在一定的局限性，如果进行面部和声音同时替换的操作，只能制作成视频，无法做到实时直播。