浅析人工智能伪造技术对社会安全的威胁

人工智能的发展应用如火如荼，但其误用、错用、滥用甚至恶意使用所带来的安全问题不可小视！

近期，美欧多国开发出多种基于人工智能的新兴伪造技术。该技术伪装性强、欺骗性高、难以监管且相关成果正在不断涌现，可用于社会生产生活及国家治理等各个方面，或对我国家安全构成严峻威胁。

“人工智能伪造技术”以假乱真

人工智能伪造技术是指利用人工智能在深度学习、大数据处理语言识别、图像识别、自然语言处理等方面的强大功能，伪造社会生活中人体指纹、语音等生理特征及合成虚假音频、视频等媒体文件的技术。现阶段的人工智能已经可以伪造个人笔迹、声音、动画以及视频等，且仿真度极高。

伪造笔迹方面，英国UCL大学研究人员开发出“Mytext in your hand writing”人工智能算法，能够分析一个人的字形及其特殊的书写方式，生成字形、字号、颜色、笔线纹理、垂直及水平间距等完全相同的笔迹，达到完美伪造。

伪造语音方面，谷歌Deepmind公司开发出 “WaveNet”软件，可利用其神经网络系统对原始音频波形进行建模，生成带有强调性音节、抑扬顿挫和体现情绪的目前世界上最接近人类自然语言的音频。加拿大Lyrebird公司正在开发一种深度学习算法，使任何人都可以使用任何其他人的声音伪造出令人惊讶的逼真演讲。目前该公司已利用该技术仿造出特朗普、奥巴马及克林顿等人的声音进行演讲。此外，Adobe公司的 Project VoCo软件可以识别出一段语音中的文字，之后针对语音中的文字进行编辑和修改，生成音色和音调与本人完全一样的语音。

伪造视频方面，美国华盛顿大学研究人员开发出“可伪造真人视频”的人工智能技术，成功将声音片段合成转化为对应的口型，并将该口型嫁接到视频中的人脸上，成功伪造出口型一致的虚假视频。研究人员演示了美国前总统奥巴马在多个场景下谈论***的视频，其口型完全一致，难辨真假。此外，该技术还可以实现小幅时移，使神经网络预测说话者接下来所要表达的内容。

引发严重的国家安全和社会稳定问题

“人工智能伪造技术”或扰乱正常的社会生活和管理秩序，引发严重的社会安全问题

“人工智能伪造技术”对社会秩序的各个层面构成了严重威胁。在社会生活层面，“人工智能伪造技术”使日常生活所用的合同、契约、证书及相关法律文本的防伪鉴定面临新的困难。在涉及公民、法人和组织切身利益和财产安全的重要问题上，该技术带来了诸多不确定性的挑战。在司法层面，“人工智能伪造技术”将可用于伪造证人证言、视听资料、电子数据及鉴定意见等虚假证据，为司法证据的鉴定采用和非法证据排除带来了新的困难，对社会公正和社会稳定带来极大的挑战。在公共安全层面，“人工智能伪造技术”为不法分子从事违法犯罪活动提供了便利条件。例如，不法分子出于扰乱社会治安或敲诈勒索等目的，可利用该技术制作高逼真度的杀人、绑架、爆炸等严重暴力犯罪的音频视频，将对社会稳定构成严重威胁。

“人工智能伪造技术”用于社交媒体或为国内外分裂、恐怖势力提供新的工具

社交媒体上的资讯传播速度快、范围广、成本风险低、易于聚拢共识等特点，其社会动员能力强大，已成为分裂、恐怖势力传播极端思想、煽动不安情绪甚至制造分裂、***的重要媒介。***“***”事件中，“学运”分子在社交媒体上被塑造成“意识形态先遣队”和“觉醒的政治力量”，加剧了***青少年的分裂思潮。Facebook中充满了“警察***、***”等片面的消息以及很多血腥暴力的虚假图片，激发了观者的负面情绪，加剧了“***”事件的扩大升级。与此同时，近年来“***”组织娴熟地利用社交媒体宣传“***”思想，招募我国***地区的“***”活动分子，使其自发前往土耳其、叙利亚伊拉克等地参加***培训，并企图回国开展***活动。此外，卡塔尔近期的“外交危机”也是由社交媒体引起，黑客组织通过入侵卡塔尔通讯社网站并伪造国家元首埃米尔•塔米姆的讲话，声称支持伊朗和巴勒斯坦******哈马斯，批评美国和沙特阿拉伯，并谴责对卡塔尔支持***的有关指控，导致严重的外交危机。

对我启示

“人工智能伪造技术”的出现，尤其是对笔迹、音频、视频的高逼真度伪造，为分裂、恐怖势力伪造领导人发布虚假声明、签署虚假命令、遭遇不测等虚假视频提供了便利条件。这些虚假视频一旦流入社交媒体，将在短时间内迅速扩散，煽动强烈的社会不安情绪。

“人工智能伪造技术”已引起美国的关注。新美国安全中心发布的《人工智能与国家安全》报告中，明确将人工智能伪造技术列为威胁国家安全的重点技术，建议美国防部和情报部门成立专门的人工智能安全组织，并由国家安全局牵头开发针对该技术的应对方法。我国同样面临人工智能伪造技术带来的现实威胁，应趁该威胁尚处萌芽阶段及早布局，通过政策管理和技术限制等途径积极应对其潜在风险。