聚焦315:“AI变脸”诈骗频发,“眼见为实”观念已过时

艾媒咨询|2023年中国AIGC行业发展研究报告

随着人工智能技术的不断发展,AIGC技术也日益成熟,广泛应用于更多领域,其广阔的应用前景将推动AIGC市场规模快速增长。艾媒咨询预测,预计2023年中国AIGC核心市场规模将达79.3亿元,2028年将达2767.4亿元。

艾媒咨询|2023年中国AIGC行业发展研究报告 精品决策
中国ChatGPT及AIGC消费者行为洞察数据 中国ChatGPT及AIGC消费者行为洞察数据 科技消费 用数据说话

  央视3·15晚会的曝光再次将人们的视线聚焦到了AI技术可能带来的风险上。

(图片来源于央视网截图)

  iiMedia Research(艾媒咨询)数据显示,预计2023年中国AIGC行业核心市场规模为79.3亿元,2028年将达2767.4亿元。艾媒咨询分析师认为,随着人工智能技术的不断发展,AIGC技术也将日益成熟,未来将在更多领域得到广泛应用。然而,随着技术的广泛应用,其带来的风险和挑战也愈发突出。随着人工智能技术的飞速发展,AI换脸、变声等新型骗局令人防不胜防,对社会秩序和公众安全造成了严重威胁。但技术发展是把双刃剑,随着AI技术的快速发展,AI成像、AI仿声、图像生成等各种内容却成为了某些灰色产业的敛财工具。

  央视3·15晚会所曝光的AI换脸骗局只是冰山一角。据新京报报道,前不久,国内多地公布网络谣言典型案例,其中有多起系“AI生谣”。不法分子利用AI“移花接木”拼成假视频,借此博眼球、赚流量、非法获利,以及利用“AI换脸”技术进行各式行骗,造成恶劣社会影响。

  文生视频模型Sora的出现,对于这些AI造谣、AI换脸骗局而言,能够实现更逼真的效果。Sora模型能够生成高度逼真的视频内容,使得假视频与真实视频几乎难以区分。这种技术的发展为不法分子提供了更大的操作空间。

  随着AI时代的到来,“眼见为实”的观念已经过时。AI生成的假视频、假音频已经日渐泛滥,因此,对AI技术和工具的监管显得尤为重要。

  2023年,中国最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中规定,对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形,依法从重处罚。

  2024年3月13日,《人工智能法案》在欧洲议会通过,成为全球首个“AI法案”。

  除了从以上政府的角度对AI技术进行监管外,企业和平台也应承担起自身的责任,加强对AI生成内容的审核和管理。通过技术手段和人工审核相结合的方式,及时发现和删除虚假信息,防止其传播和扩散。公众也应提高警惕,增强对AI骗局的识别和防范能力。消费者在面对可疑信息时,要保持冷静和理性,不轻信、不传播未经证实的信息。同时,加强个人信息保护意识,避免个人信息被不法分子利用。

责任编辑:飞羽

艾媒咨询|2023年中国AIGC行业发展研究报告

随着人工智能技术的不断发展,AIGC技术也日益成熟,广泛应用于更多领域,其广阔的应用前景将推动AIGC市场规模快速增长。艾媒咨询预测,预计2023年中国AIGC核心市场规模将达79.3亿元,2028年将达2767.4亿元。

艾媒咨询|2023年中国AIGC行业发展研究报告 精品决策
中国ChatGPT及AIGC消费者行为洞察数据 中国ChatGPT及AIGC消费者行为洞察数据 科技消费 用数据说话