聚焦315：“AI变脸”诈骗频发，“眼见为实”观念已过时
央视3·15晚会的曝光再次将人们的视线聚焦到了AI技术可能带来的风险上。
iiMedia Research（艾媒咨询）数据显示，预计2023年中国AIGC行业核心市场规模为79.3亿元，2028年将达2767.4亿元。艾媒咨询分析师认为，随着人工智能技术的不断发展，AIGC技术也将日益成熟，未来将在更多领域得到广泛应用。然而，随着技术的广泛应用，其带来的风险和挑战也愈发突出。随着人工智能技术的飞速发展，AI换脸、变声等新型骗局令人防不胜防，对社会秩序和公众安全造成了严重威胁。但技术发展是把双刃剑，随着AI技术的快速发展，AI成像、AI仿声、图像生成等各种内容却成为了某些灰色产业的敛财工具。
央视3·15晚会所曝光的AI换脸骗局只是冰山一角。据新京报报道，前不久，国内多地公布网络谣言典型案例，其中有多起系“AI生谣”。不法分子利用AI“移花接木”拼成假视频，借此博眼球、赚流量、非法获利，以及利用“AI换脸”技术进行各式行骗，造成恶劣社会影响。
文生视频模型Sora的出现，对于这些AI造谣、AI换脸骗局而言，能够实现更逼真的效果。Sora模型能够生成高度逼真的视频内容，使得假视频与真实视频几乎难以区分。这种技术的发展为不法分子提供了更大的操作空间。
随着AI时代的到来，“眼见为实”的观念已经过时。AI生成的假视频、假音频已经日渐泛滥，因此，对AI技术和工具的监管显得尤为重要。
2023年，中国最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中规定，对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形，依法从重处罚。
2024年3月13日，《人工智能法案》在欧洲议会通过，成为全球首个“AI法案”。
除了从以上政府的角度对AI技术进行监管外，企业和平台也应承担起自身的责任，加强对AI生成内容的审核和管理。通过技术手段和人工审核相结合的方式，及时发现和删除虚假信息，防止其传播和扩散。公众也应提高警惕，增强对AI骗局的识别和防范能力。消费者在面对可疑信息时，要保持冷静和理性，不轻信、不传播未经证实的信息。同时，加强个人信息保护意识，避免个人信息被不法分子利用。
