人工智能风险需重视！明年起，AI造假音视频不得随意发布
艾媒网获悉，近日，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》(以下简称《规定》)，自2020年1月1日起施行。
国家发布网络音视频新规
国家互联网信息办公室有关负责人表示，出台《规定》，旨在促进网络音视频信息服务健康有序发展，保护公民、法人和其他组织的合法权益，维护国家安全和公共利益。
《规定》包括了十九条措施，其中《规定》明确网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。
网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。
另外，《规定》还明确了网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。
在《规定》中，深度学习和虚拟现实屡次被提及，基本可以看做是针对AI造假视频的一次针对性管控。
2017年底，deepfake换脸技术出现以来，各种使用AI技术造假的视频层出不穷。而且随着技术的进步，造假视频已经变得越来越真假难辨，也引发了全球范围内的担忧。再如前段时间上线以后便引发巨大争议的“ZAO”。
人工智能潜在的威胁不得不防
上述提及的深度学习是人工智能的基础技术之一，基于深度学习算法的人工智能，能够从结构上模拟人脑的运行机制，而深度学习算法的实现基于海量的数据和高效的算力。反过来，数据的质量又决定了深度学习模型的最终实现效果。现阶段，语音识别技术、计算机视觉技术和自然语言处理等都足基于深度学习算法。
值得注意的是，深度学习系统本身面临多种安全威胁。如框架常见漏洞、模型安全漏洞、数据流处理风险。
艾媒咨询调研数据显示，64.1%的中国网民认为人工智能是存在风险/安全威胁的。
40.3%的网民认为人工智能带来的最大危害就是个人信息泄露，其比重相对较高。艾媒咨询分析师认为，中国网民现阶段对人工智能存在的危害认知尚不全面。如例如AI造假的音视频或被不法分子加以利用进行诈骗等犯罪行为。因此，对于未来人工智能技术的发展，态势虽一路高涨，但仍不能放松警惕。
附上《网络音视频信息服务管理规定》全文：
第一条 为促进网络音视频信息服务健康有序发展，保护公民、法人和其他组织的合法权益，维护国家安全和公共利益，根据《中华人民共和国网络安全法》《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《互联网文化管理暂行规定》《互联网视听节目服务管理规定》，制定本规定。
第二条 在中华人民共和国境内从事网络音视频信息服务，应当遵守本规定。
本规定所称网络音视频信息服务，是指通过互联网站、应用程序等网络平台，向社会公众提供音视频信息制作、发布、传播的服务。
网络音视频信息服务提供者，是指向社会公众提供网络音视频信息服务的组织或者个人。网络音视频信息服务使用者，是指使用网络音视频信息服务的组织或者个人。
第三条 各级网信、文化和旅游、广播电视等部门依据各自职责开展网络音视频信息服务的监督管理工作。
第四条 网络音视频信息服务提供者和使用者应当遵守宪法、法律和行政法规，坚持正确政治方向、舆论导向和价值取向，弘扬社会主义核心价值观，促进形成积极健康、向上向善的网络文化。
第五条 国家鼓励和指导互联网行业组织加强行业自律，建立健全网络音视频信息服务行业标准和行业准则，推动网络音视频信息服务行业信用体系建设，督促网络音视频信息服务提供者依法提供服务、接受社会监督，提高网络音视频信息服务从业人员职业素养，促进行业健康有序发展。
第六条 网络音视频信息服务提供者应当依法取得法律、行政法规规定的相关资质。
第七条 网络音视频信息服务提供者应当落实信息内容安全管理主体责任，配备与服务规模相适应的专业人员，建立健全用户注册、信息发布审核、信息安全管理、应急处置、从业人员教育培训、未成年人保护、知识产权保护等制度，具有与新技术新应用发展相适应的安全可控的技术保障和防范措施，有效应对网络安全事件，防范网络违法犯罪活动，维护网络数据的完整性、安全性和可用性。
第八条 网络音视频信息服务提供者应当依照《中华人民共和国网络安全法》的规定，对用户进行基于组织机构代码、身份证件号码、移动电话号码等方式的真实身份信息认证。用户不提供真实身份信息的，网络音视频信息服务提供者不得为其提供信息发布服务。
第九条 任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动，不得制作、发布、传播煽动颠覆国家政权、危害政治安全和社会稳定、网络谣言、淫秽色情，以及侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益等法律法规禁止的信息内容。
第十条 网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估。
第十一条 网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。
网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。
第十二条 网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的音视频信息的管理，部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信、文化和旅游、广播电视等部门报告。
网络音视频信息服务提供者发现不符合本规定第十一条第一款要求的信息内容的，应当立即停止传输该信息，以显著方式标识后方可继续传输该信息。
第十三条 网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。
第十四条 网络音视频信息服务提供者应当在与网络音视频信息服务使用者签订的服务协议中，明确双方权利、义务，要求网络音视频信息服务使用者遵守本规定及相关法律法规。对违反本规定、相关法律法规及服务协议的网络音视频信息服务使用者依法依约采取警示整改、限制功能、暂停更新、关闭账号等处置措施，保存有关记录，并向网信、文化和旅游、广播电视等部门报告。
第十五条 网络音视频信息服务提供者应当自觉接受社会监督，设置便捷的投诉举报入口，公布投诉、举报方式等信息，及时受理并处理公众投诉举报。
第十六条 为网络音视频信息服务提供技术支持的主体应当遵守相关法律法规规定和国家标准规范，采取技术措施和其他必要措施，保障网络安全、稳定运行。
第十七条 各级网信、文化和旅游、广播电视等部门应当建立日常监督检查和定期检查相结合的监督管理制度，指导督促网络音视频信息服务提供者依据法律法规和服务协议规范网络音视频信息服务行为。
网络音视频信息服务提供者应当遵守相关法律法规规定，依法留存网络日志，配合网信、文化和旅游、广播电视等部门开展监督管理执法工作，并提供必要的技术、数据支持和协助。
第十八条 网络音视频信息服务提供者和网络音视频信息服务使用者违反本规定的，由网信、文化和旅游、广播电视等部门依照《中华人民共和国网络安全法》《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《互联网文化管理暂行规定》《互联网视听节目服务管理规定》等相关法律法规规定处理;构成违反治安管理行为的，依法给予治安管理处罚;构成犯罪的，依法追究刑事责任。
第十九条 本规定自2020年1月1日起施行。
