谨防深度伪造和改装陷阱：国家安全机构的建议

国家安全部今天发表文章，提供安全提示。生成式人工智能技术的进步正在加速人工智能视频制作的普及，其在提高创作效率、活化历史记忆方面展现出巨大潜力，成为数字时代内容制作的有力工具。然而，当科技被恶意用于金融诈骗、政治渗透、造谣、间谍等违法活动时，就会侵犯公民的合法权益，甚至扰乱社会秩序、危害国家安全。数据地图、照片和创造力、深度伪造和神奇改变隐藏着“雷区”，伪造权威并破坏信任。外国间谍情报机构和各类敌对势力可以利用精巧的伪造技术，编造虚假言论、伪造公职人员不当视频、编造虚假政治形象，制造虚假信息。社会恐慌，分裂舆论，损害国家形象，影响政治和制度安全。准确性欺诈和侵犯公私财产。犯罪分子可以利用复杂的造假手段，克隆家人、朋友、客服代表等的声音和面孔，通过虚假官方渠道进行虚假转账、虚假投资、诈骗等违法活动。此外，他们还试图通过发明公司广告和专家意见来制造市场波动。信息泄露使数据安全面临风险。犯罪分子可以利用人脸、声纹等生物特征欺骗手段，突破身份验证、授权验证等基本防护机制，导致账户被盗、后台渗透、敏感数据大量泄露，甚至导致关键信息基础设施安全系统失控等严重安全事件，对数据安全构成威胁。性。国家安全部门提醒，《互联网信息服务深度综合管理规定》规定，任何组织和个人不得利用深度综合服务危害国家安全和利益、损害国家形象、侵犯社会公共利益、破坏经济社会秩序、侵犯他人合法权益。具有舆情属性和社会动员功能的深度合成服务应当依法适用，并进行内容审核、实名制和合成管理。禁止识别、删除识别和更改。严禁未经授权使用人脸、声音等生物识别信息进行恶意编辑。技术本身没有好坏之分；关键在于你如何使用它。面对Deepfake技术，全体公民应自觉增强安全意识，提高身份识别能力。遵守法律法规，以实际行动维护国家安全和网络廉洁。提高你的辨别能力。理性对待网络信息，不要盲目相信不合理的音频、视频、图像内容。如果遇到可疑信息，请优先通过官方渠道核实真伪。自觉遵守法律。合理合法使用各类人工智能生成的音视频处理工具，不参与、协助制作、传播有害虚假信息。让文明在线。自觉抵制各类有害内容，未经许可不提交未经证实的信息。如发现AI视频平台或作品存在可能威胁国家安全问题线索，可通过国家安全局举报热线12339、在线举报受理平台（www.12339.gov.cn）、微信官方acco举报不得向国家安全部举报接收渠道或直接向当地国家安全局举报。 （央视记者王莉）