7月27日，在微博、新浪新闻主办的（de）人工智能领（lǐng）域行业峰会——2022新（xīn）智者（zhě）大会上，360公司创始人（rén）周鸿（hóng）祎分享了题为《筑牢AI安全基座 护航（háng）智能新时代》的（de）演讲，从数字安全的角度，带给我（wǒ）们（men）关（guān）于网络安全的全新（xīn）视角（jiǎo）和（hé）定义。

2022新（xīn）智者大（dà）会-360公司创（chuàng）始人周鸿祎-主题演讲

以下是周鸿祎分享（xiǎng）实录，内容经编辑略有删（shān）减：

尊敬（jìng）的（de）各（gè）位领导、各（gè）位同仁（rén）、各位（wèi）来宾（bīn），感谢大（dà）会组委会的邀请，非常高（gāo）兴参加“2022年新（xīn）智（zhì）者（zhě）大（dà）会”。

我（wǒ）叫周鸿（hóng）祎，虽然说可能很（hěn）多人都（dōu）认识我（wǒ），但是很多人都问我（wǒ）一个问题（tí），为什（shí）么你老喜欢穿红（hóng）衣（yī）服？那是因为我的名字老（lǎo）被叫成周鸿“伟”，所以我穿一个（gè）红（hóng）衣服，就是给大（dà）家提示一（yī）下，我是鸿祎（yi），不是鸿伟（Wei）。

本（běn）次（cì）会（huì）议的（de）主题是“融合生（shēng）态，价值共创”。当前发（fā）展数字经（jīng）济（jì），以人工智能为代表的数（shù）字技术赋能产业变革，推（tuī）动整个（gè）社会经济进（jìn）入智能化（huà）的（de）新阶段。

我是（shì）绝（jué）对（duì）支持数字经（jīng）济，支（zhī）持新技术（shù）人工智能的。但（dàn）是（shì），我们做安全的人，稍微（wēi）有点变态，天（tiān）天都在琢磨这（zhè）个技（jì）术有啥风险，这个（gè）技术有什么不安全的地方。

那（nà）么，我们今天（tiān）谈数字经（jīng）济、人工智能里不安（ān）全的问题，也是为了保证（zhèng）让我们建设数字中国，促进（jìn）数（shù）字（zì）经（jīng）济（jì）能走得更（gèng）稳、更远。

简单来总结，当前一个大的趋势是数字化发展，数字化已经成（chéng）为国（guó）家战略。这（zhè）里边包括我（wǒ）觉（jiào）得（dé）最重要的大家应该（gāi）关（guān）注的是（shì）产（chǎn）业数字化，是红海中的（de）蓝海（hǎi）。为什么这么讲呢？未来所（suǒ）有的传统（tǒng）行业（yè），都（dōu）值得（dé）用数字化（huà）重塑一遍它（tā）的（de）产（chǎn）业链、供应（yīng）链、价值链，甚（shèn）至是商（shāng）业模式。

数字经济（jì）已经成（chéng）为当代的主旋律。很多（duō）人老误以（yǐ）为数字经济=虚拟经济（jì），其实所（suǒ）有用数字（zì）化技（jì）术打造的（de）经济成果，都是数字经济。中国在（zài）这方（fāng）面已经遥遥领先，我们数字经济占GDP的比重已经超过（guò）30%。

所以，未来5-10年（nián），所（suǒ）有的企业都将转型升级成数字化企（qǐ）业。

如果（guǒ）没有数字（zì）化的企业（yè），可能就消失或者被淘汰了。

我们经常讲互联网的上半（bàn）场（chǎng），我的理（lǐ）解互联网的上半（bàn）场（chǎng）是消（xiāo）费互（hù）联网的（de）数字化（huà）。也就是这个互联网公司，把中国老百姓的吃喝玩乐、衣食住行，各种生活（huó）方式充分实现了（le）数字化。所以（yǐ），这些传统（tǒng）互联网（wǎng）公司，当仁（rén）不让成了主角（jiǎo）。

但是，未来（lái）10年，我（wǒ）觉得是互联网（wǎng）的（de）下半（bàn）场，主角就不再是（shì）互联（lián）网公司，而是各种传统企业，各级政府，他们才会变成大数据、数字化（huà）真正的玩（wán）家（jiā），把各种产业场景用（yòng）数（shù）字化（huà）再重（chóng）新塑造一（yī）遍（biàn）。

简单讲，数字化发展的几（jǐ）个核心技术。为了让大家记，我（wǒ）编了一个字母歌，叫I、M、A、B、C、D、E。

I，IoT，物联（lián）网技术（shù），主要是未来（lái）用（yòng）来把这个世（shì）界，把所有的商业流程，所有数字化，主要是依靠物联网（wǎng）设备。

M，移动通信，5G，实际（jì）上是为数字时代准备的，并不是说仅（jǐn）仅方便我们个人为了（le）看视频，能（néng）够（gòu）快速，实际上为了通过5G，把各种现实世界数（shù）字（zì）化的数据传到（dào）云端。

C是Cloud computing，云计算；A是人工智能；B是（shì）区块链；D是大（dà）数据；E是（shì）边（biān）缘计算。

所以，这里边的逻辑（jí），我（wǒ）觉得最重要是以AI为核心，AI是一个大数据的基础，才有了深度学（xué）习，所以（yǐ）AI也是数据基（jī）础。

数据又来源于哪（nǎ）儿（ér）呢，来（lái）源于IoT，大量（liàng）对这（zhè）个世界的数（shù）字化，通过5G，传到（dào）云端。通过（guò）大数（shù）据（jù）系统管理起来。

所以，未（wèi）来我们（men）谈（tán）数字经济，我们谈（tán）数字（zì）化战略，都脱（tuō）离不开这几个技术。当然，还（hái）有一个是我们今天要说到的，有一个技术跟它（tā）们都不能并列，是“安（ān）全”。因（yīn）为只有“安全”，给它们提供（gòng）了（le）坚实的基础（chǔ），这些技术才能够充分发（fā）挥作用，而不至于成为风险的来源。

我可以举一（yī）个简单的例（lì）子。

最近的“俄（é）乌冲突”相当（dāng）于是一场开卷考试，是新（xīn）的时（shí）代下数字世界（jiè）对抗冲突（tū）的真实预演，有几（jǐ）个特点，我给（gěi）大（dà）家总结一下（xià）。

第一，网（wǎng）络战和传统战争相（xiàng）结合（hé），已经演变成（chéng）一场数字化战争。

在（zài）战前，网络战已经不是传说中的幻（huàn）想小说。实际上（shàng）在传统作战（zhàn）发生（shēng）之前，网（wǎng）络战已经开打。俄乌（wū）双方的政府部（bù）门，还（hái）有银行、电（diàn）信、电力等（děng）关（guān）键基础设施，均遭到了网络打击。那除了网络攻击之外，星链、卫星（xīng）、互联网（wǎng）、人工智（zhì）能、无人机，人（rén）工智能技术，传统武器、传统攻击方法融（róng）为一体（tǐ），打了（le）一场（chǎng）新型（xíng）的（de）数字战争（zhēng）。乌克兰获（huò）得了（le）北约和（hé）美国的支持。在数字化（huà）技（jì）术方（fāng）面，弥补了弱势，而俄方（fāng）由（yóu）于在数字化方（fāng）面落后，所（suǒ）以（yǐ）不（bú）免有扩大的损失（shī）。

第二，网（wǎng）络攻击的手段无所不用其极。

此次，双方（fāng）除了使用包括原来（lái）常规的基于漏洞（dòng）的（de）APT攻击，还把DDoS拒绝服务攻击，特别是（shì）数（shù）据查处攻击、供应链攻击各种（zhǒng）网站攻击，各种（zhǒng）传（chuán）统手（shǒu）段，包（bāo）括新（xīn）的手段结合（hé）起来，所以这一（yī）次战争（后（hòu）面我会讲）还有一个特点，不仅是数字化（huà）战争，还是第一（yī）次人工智能参战的数字战争（zhēng）。

第三，这一（yī）次是一（yī）场数字时代的人民（mín）战（zhàn）争。

正因（yīn）为双方都大量使（shǐ）用了数字化技（jì）术，而数字化的技术，真正的高（gāo）手（shǒu）在民间。所以，很多（duō）高科技公司走向攻防的前沿（yán），民间的黑客（kè）成为主（zhǔ）力军。

比（bǐ）如（rú）美国有很多高科技的公司（sī），哪怕是民（mín）间公司，实际（jì）上都参与（yǔ）了战斗。包括IBM、微软（ruǎn）、谷歌，他们对俄罗斯禁运芯片，或者终止服务（wù），包括埃隆马斯克（kè），提供星链（liàn）、卫星、互联网等技（jì）术（shù）。

然后，民间（jiān）的网安公（gōng）司也（yě）纷纷参战。也就是包括俄罗斯的卡巴斯基，还有欧洲的很（hěn）多传统杀毒软件公（gōng）司都纷纷参（cān）加，成为网络攻（gōng）击攻（gōng）防的重要（yào）力（lì）量。

本来俄罗斯在乌克兰的系统（tǒng）里，预埋（mái）了一些后（hòu）门和漏洞。但是，美国的网络战部队和美国的（de）一些安全（quán）公司出（chū）手（shǒu）。帮助乌克（kè）兰做了（le）漏洞（dòng）和预埋（mái）后门的清理，使得俄罗斯原来预设（shè）的网络打击效果大打（dǎ）折扣。

乌克（kè）兰还（hái）组织了30万国际黑客（kè），又叫“IT志愿军”，这30万黑客冲到俄罗斯（sī）的（de）网络空（kōng）间里，大（dà）打（dǎ）出手，导致俄罗斯的网军精力难以（yǐ）兼顾，处处被动（dòng）。

所以，我们可（kě）以从俄乌的（de）例子（zǐ）来看，这是人类历（lì）史上第（dì）一次数字化战（zhàn）争（zhēng），也是第一次AI战（zhàn）争。体现（xiàn）了双方谁的数字化技（jì）术落（luò）后，谁就要（yào）挨打（dǎ）这个机制（zhì）。

过去我们有句老（lǎo）话讲“落后（hòu）就要挨（āi）打”。通过（guò）俄乌（wū）战争，我（wǒ）们（men）可以把这句（jù）话改成，今天在数字化的时代里，谁在数（shù）字化（huà）体系上（shàng）落后，谁就（jiù）要挨打。

我们可以看（kàn）到，这次俄乌战争（zhēng）表面上是两个国家的武力（lì）冲突。但实际上背（bèi）后是俄罗（luó）斯和西（xī）方（fāng）两大数字体系（xì）的碰撞。结果不言而喻（yù），西（xī）方（fāng）强大的数字体系，不再区分军工、民用，也不再区分国企、民企，也不（bú）再区分企业、个人，把整个的数字化力量综合在一起，在这（zhè）方面俄罗斯就应该说处（chù）于下风吧。

为什么我（wǒ）又讲（jiǎng）这是（shì）人类历史上第一次（cì）AI战争呢？因（yīn）为在（zài）军事冲突过程中，你会发现这一次AI（人工智能）活跃于战场的（de）各个领域，扮演着非常重要的角色。甚至包括AI的武器，直接参（cān）与了（le）战场的攻击，参与了战（zhàn）场的情报支（zhī）持，辅助战场决策，被用于心（xīn）理战的（de）这种虚假宣传，下面呢我讲一一详细来给大家做一些例（lì）子（zǐ）的说明。

第一个，AI的武器（qì）直接参与战（zhàn）场攻（gōng）击。

我记得当年阿西·莫夫在讲“机（jī）器（qì）人三原则”的（de）时候，有一个（gè）重要的原（yuán）则，就是机器人不能伤害人。实际上今天（tiān）各（gè）种无人战车、无人飞机，已经应用在（zài）战场上。这里（lǐ）面（miàn）举（jǔ）一个例（lì）子，乌克兰军队使（shǐ）用美国的弹簧刀无人机，具备监视、侦察和打（dǎ）击功能。既是无人机（jī），又是一个自杀（shā）式导弹，在人工智能（néng）的（de）加持下（xià），单兵就能熟练掌握，有效打击俄军的机动目标，成为战场规则（zé）的改（gǎi）变者。

那今天弹簧刀无人机可能还是在被遥控，最后（hòu）打击的（de）瞬间可能还是由（yóu）人来下指令。但（dàn）是，从人下指令（lìng），到它自动识别、自动判断、自主发起攻（gōng）击（jī），我觉得这（zhè）就是一层薄（báo）薄（báo）的窗户纸。

第二个（gè），AI参与战场情报支持。

乌克兰国防部使用（yòng）Clearview AI面（miàn）部识别技术，通过人工智能来识别俘虏和尸体。该公司（sī）拥有一个包（bāo）括（kuò）来自（zì）网络的100亿张面孔的数（shù）据库（kù）。其中，仅来自俄罗斯社交媒体的图像就（jiù）高达20亿张。这种技术通过战场上传来的俄罗斯战（zhàn）俘（fú）或者尸体的面部（bù）照片，可以对死者的身份进行匹配。

第三个，AI辅（fǔ）助战场决（jué）策。

这次我（wǒ）们都知道说乌（wū）克兰派（pài）出很（hěn）多小分队，对俄罗斯的运输线进行各种（zhǒng）灵活的打（dǎ）击（jī），打完了就跑。这（zhè）个前提是要有（yǒu）完（wán）全，应该说尽在掌握之中的战（zhàn）场态势感知。

这一次呢（ne），Seekr和Semantic AI的增强智能平台相结（jié）合，应用深度分析技术，来发现人员（yuán）地点（diǎn），事件之间的隐蔽连接，自（zì）动（dòng）生成报告（gào）和动态仪表盘，从而帮（bāng）助（zhù）指挥者做出更（gèng）明确的选择。所以，这一（yī）次整个战场态势感知，大数据分析应该说AI功不（bú）可（kě）没。

第四（sì）个，打仗既是认知战（zhàn），也是心理战，也是宣（xuān）传战。

所以，前面网上流传了一个（gè）叫Deepfake的（de）视频，所谓Deepfake就是（shì）利用（yòng）AI做的（de）深（shēn）度伪造，内容是泽（zé）连斯（sī）基（jī）宣布他投降，这（zhè）个视频害的泽连斯（sī）基不得不公开辟谣。但（dàn）还是有大（dà）量（liàng）的AI水军机器人在网上狂炒，制造舆（yú）论。

所以，在（zài）这个过程中，AI发挥了巨大的作用。

第五个，AI基础算力设（shè）施的服务断供。

我们讲运行AI需要算力，算力需要大数据（jù）等基础（chǔ）设施。但如果数据中（zhōng）心（xīn），云服务（wù）都被终止，那么各（gè）种无人机，自动驾驶（shǐ）坦克各种大脑（nǎo）就失去了重（chóng）要的能源。

在本次（cì）俄乌冲突中，西方（fāng）对俄罗斯采取了“六断”（断网、断供、断服务、断（duàn）证书、断域名（míng）、断舆论），包括说微软、IBM和甲骨文这（zhè）些公司对俄停止SSL证（zhèng）书，停止（zhǐ）域名解析，停止互（hù）联网（wǎng）接（jiē）口（kǒu），中断国际传输网络，停止了各种软（ruǎn）件（jiàn）跟（gēn）服务，芯片和硬件供应商，比如英特尔（ěr）对（duì）俄断供，甚至包括脸书、推特等就彻底把俄罗斯的很多帐号（hào）给（gěi）禁掉，彻底将（jiāng）俄孤立。再试图把俄罗斯在（zài）数（shù）字化的（de）世界里（lǐ）彻底抹去。

而俄罗斯由（yóu）于缺乏市场化的数字产业（yè）支撑，完全被动挨打，这个都让俄罗斯算力（lì）、产品（pǐn）和服务的基础被掣肘。

所以，大家想一想当（dāng）未来发生冲（chōng）突的（de）时候，实际上就（jiù）成了数字体（tǐ）系的（de）对抗（kàng）。这（zhè）个数字体（tǐ）系（xì）的强壮与否，已（yǐ）经（jīng）不完全取决于军（jun1）队（duì）或者仅仅是（shì）军工企业（yè），可能跟每一家数字化的公司，每一家研究数字技术的（de）科（kē）技人员，都有（yǒu）密切的关系。

所（suǒ）以，我（wǒ）们可以得出一个结论（lùn），安全（quán）是数（shù）字化的基座（zuò），在一切（qiē）皆可编程，万物均要互联，大数（shù）据驱动业务、软件重新世界的（de）趋势下，整个全世界的安全（quán）环境（jìng）也更加的脆弱，这其中AI也不例外。

一切皆可编程，我刚（gāng）才讲过了，就（jiù）意味着所（suǒ）有的东西都是软件。比（bǐ）如说汽车也是软件，无人机也是软件（jiàn），所以漏洞（dòng）无处不（bú）在。有（yǒu）漏洞，就有可能（néng）被人利用，被人利用就可能被（bèi）人攻（gōng）击。

我稍微解释（shì）一下漏洞的原理，过（guò）去大（dà）家只（zhī）要觉得说自己的电脑口（kǒu）令不丢失，帐（zhàng）号不泄漏（lòu），就（jiù）没（méi）有安全的问题。实（shí）际上“漏（lòu）洞”的出现改（gǎi）变（biàn）了这（zhè）一切，漏洞改变（biàn）了（le）整个网络攻防的游戏规则。基于（yú）一个我（wǒ）知道，而（ér）你不知道的漏洞，可能别人就能以（yǐ）一种完全意想（xiǎng）不到的方法来控制你的系（xì）统（tǒng）。

举（jǔ）一个例（lì）子（zǐ），比如说利用（yòng）一个常见的浏览器漏洞，可能你在浏览一（yī）张美女图片的时候，你在享受看图片的时（shí）候，可能在这个图片里面编码的一个代（dài）码，就神不知鬼不觉在你的电脑上开始运转起来。

前两天，有（yǒu）一个WannaCry勒索病毒利用了一个漏洞，更是匪夷所思。一台电脑向（xiàng）另外一台电脑的网卡发送了（le）一个数据（jù）包，两台电（diàn）脑毫无感觉，这个数（shù）据（jù）包就能够在接收机器的（de）电脑上运行，从而（ér）控制这台（tái）电（diàn）脑，所以应该讲，漏洞现在是无孔（kǒng）不（bú）入（rù）。

关于漏（lòu）洞最典（diǎn）型（xíng）的例子（zǐ），是去年年底阿帕奇（qí）基金开源项目的（de）Log4j2的（de）组件，被发（fā）现存在着（zhe）远程代码执行漏洞。这个软件被大量应用于（yú）关键业务系统（tǒng）底层开发（fā），这个漏洞就意味着（zhe）我们很（hěn）多重（chóng）要的系统，被漏洞（dòng）的利用者能（néng）够洞开。

万物均（jun1）要互联，万（wàn）物互联带（dài）来（lái）的好处就不讲了。所以，今天的车联网、智慧城市、工（gōng）业互联网都是万物（wù）互联的典型例子。但是，这也（yě）意味着在虚拟世界里的攻击，往往会变成（chéng）物理世界（jiè）的伤害。在过去，大家中了（le）病毒，只是说文件（jiàn）丢失，大不了电脑不用了，邮件不收了，网不（bú）上（shàng）了（le）。但是，今（jīn）天（tiān）虚拟世界里的伤（shāng）害，都可以转（zhuǎn）成（chéng）对物理世界的（de）攻击。

所（suǒ）以，我们可以看到，导致工厂停工，大面积停电，社会（huì）停摆。

我举（jǔ）两个例子，今年2月（yuè）-3月，三家丰田的供（gòng）应商遭到黑客攻击，丰田不得不停止其14家日（rì）本工厂的运（yùn）营，导致每月的生产能力下降了5%。

前几年，在（zài）委（wěi）内瑞拉、乌克兰都出现了利用网络攻击，攻击变电站设备，远（yuǎn）程拉闸，导致大面（miàn）积（jī）停电，所以这（zhè）里就不是美国科幻电影里的幻（huàn）想。

再（zài）举一个真实的例子，我们现在大家都会买智能网联车或者新（xīn）能（néng）源车，但是（shì）说句不（bú）好听的（de）话，你（nǐ）买了车，你不要以为（wéi）这车就是你（nǐ）的了，实际（jì）上是听车厂（chǎng）的。

我们（men）的车（chē）每时每刻都需要（yào）跟车厂保持联系，不断的从车（chē）厂各（gè）种更（gèng）新的指令、更（gèng）新软件，也不断把各种数（shù）据传回（huí）车厂。

一旦黑客破（pò）解了（le）这（zhè）个车（chē）厂的协议，或者破解（jiě）了车厂的云端服务（wù）器，就可以远端对你（nǐ）的车进行（háng）遥（yáo）控，那么可能就会（huì）出现更（gèng）大的风险。在2017年，我们曾经帮助某（mǒu）全球知名（míng）的一个知（zhī）名车企，发现了大概19个漏洞（dòng）。通过这些漏洞，这（zhè）个车（chē）厂在2017年以后出的全（quán）球600多万辆车，都可以远（yuǎn）程启动、远程熄（xī）火、远程开（kāi）门、远程（chéng）开天窗，一旦这些漏洞被黑客掌（zhǎng）握，后果不堪设想（xiǎng）。

大数据驱（qū）动业务，我们现在对大数据都（dōu）非常重视。数据变成（chéng）重要（yào）的战略资产（chǎn），数据变成（chéng）整个信息（xī）化社会的（de）重要的像石（shí）油一样的基础血液（yè）。但是，反过来说，数（shù）据一旦（dàn）遭到（dào）了攻击，可（kě）能（néng）就意味着（zhe）业务停转，数据安全直接影（yǐng）响业（yè）务（wù）安（ān）全（quán）。

那2022年1月，我们（men）国（guó）家（jiā）台湾地区的台达电遭到（dào）勒（lè）索软件攻击，有1500台服务器，12000台电脑在本次攻击中（zhōng）数（shù）据被加密，被勒索（suǒ）1500万美金。

还有一个去年5月份，美国东海岸（àn）一家输（shū）油管道（dào）公司受到（dào）了攻击，当时这（zhè）个事（shì）情很（hěn）出名，美（měi）国东海（hǎi）岸（àn）很多加油站都供（gòng）不上（shàng）油了（le），害了美国（guó）总统都为之出来做了一些讲（jiǎng）话。美（měi）国交通部甚至都要宣布，在美国（guó）东部要（yào）进入紧急状态。当（dāng）时我们也觉得（dé）这是（shì）一件很诡异的工业互联网攻击。

后来调查下来发现，其实比我们（men）想得要简单。因为来（lái）自俄罗斯的黑客，直接把这家美国油管公（gōng）司的财务数据给加（jiā）密了（le），导（dǎo）致整个财务（wù）数据系统崩溃之后，就没有办法向（xiàng）客户（hù）提供油料了。所以，整（zhěng）个的业务就中止了。

这几年我们在国内也接到不（bú）少（shǎo）公司的报案，他（tā）们（men）受到勒索（suǒ）攻击的这种侵（qīn）犯。实际上（shàng）一旦（dàn）核心数（shù）据（jù）被加密，整个业务系统立（lì）刻停（tíng）摆。

所（suǒ）以，这里（lǐ）边我也讲一下勒索软件或（huò）者勒索攻击，已经变（biàn）成现（xiàn）在（zài）成长速度（dù）最快，获利最（zuì）高的一种新的黑产的商（shāng）业模式（shì）。

过去我们很多人很迷信（xìn），我的数据很加密（mì），别人（rén）也拿（ná）不走，但是勒（lè）索（suǒ）攻（gōng）击者脑洞（dòng）很清奇，他（tā）们不拿（ná）走你（nǐ）的数据，把你的数据再加密一点，就像我（wǒ）说的，我们家有一个保险柜，你来了之后不用打开它，再带一个更（gèng）大的保险柜，把我的保险柜锁（suǒ）在（zài）你的（de）保险柜里，这样我只能乖乖地找你去要保险柜的钥匙，所以这就是勒索（suǒ）攻（gōng）击（jī）的（de）核心秘密。

所以（yǐ），我们（men）可（kě）以看到（dào）数字（zì）化技术，固（gù）然（rán）一（yī）方面给（gěi）我们创（chuàng）造了自动化，非常（cháng）美（měi）好的科（kē）技的这（zhè）种未（wèi）来，美好的生活（huó），更高的生产力、更高的效率（lǜ）。但是它同时也有安（ān）全（quán）上的隐（yǐn）患。

当然了，前面讲人（rén）工智能技术（shù）本质也是软件，本（běn）质（zhì）也是（shì）基于数据，也有很多破绽。所以，总结起来，我觉得人工智能安全有七大安全挑战：硬件、软（ruǎn）件、通（tōng）信协议、算法、数（shù）据、应用和社（shè）会（huì）伦理（lǐ）。

下面我将给（gěi）大家逐个（gè）解释一下。

第（dì）一个，硬（yìng）件，可能会出错。因为我刚才讲，今天的数（shù）字化世界，我们很多数据是来（lái）自于物联（lián）网设备（bèi）及各种传感器。如（rú）果这个传感器数据出（chū）错，传给（gěi）系统的数据本身（shēn）信号就（jiù）是错的，那么系（xì）统（tǒng）当然就会做出错（cuò）误的判断。

比（bǐ）如说美（měi）国波音公司（sī）的（de）737Max前几年出了几次空难（nán），实际上是自动压机（jī）头和（hé）自动提升（shēng）的（de）软件出了错误。因为机（jī）头升降仰角读取的传感器读出了错误，以至于（yú）AI发生了错（cuò）误判断。

包括今天我们比较看好的无人驾（jià）驶（shǐ）车，都（dōu）会装有激光雷达，用激光雷达来对前方的路障（zhàng）进行（háng）识别。但（dàn）是，如果我用类似的激光（guāng）笔或（huò）者对（duì）激光雷达进行干扰（rǎo），可能无（wú）人驾驶（shǐ）车，就（jiù）会发（fā）生错误的判断。所以，硬（yìng）件是整个（gè）AI数（shù）字化很重要的基础，硬件有可能会带来错误（wù）的（de）数据（jù）。

第（dì）二个，软件（jiàn）存在漏洞。特别是我们（men）今天的AI训练，很（hěn）多都是基于开源框架，这些开源框架本（běn）身软件（jiàn）都有很多的漏（lòu）洞。在过去的时间里面，我们（men）360已经挖取了不少的漏洞。

比如（rú）说最近有一个AI编程神器的软件，自动生成代码（mǎ）中有40%存在漏洞，这（zhè）个漏洞比一个优秀的人工工程师（shī）的漏（lòu）洞还（hái）要多（duō）出10倍以上。

第（dì）三个（gè），通信协议可能会被劫持。你比如说（shuō），刚才我们（men）讲了无人驾驶汽车（chē），跟车厂之间（jiān）是有特（tè）殊的协议，来进行（háng）软件的更新和远程控制。如果这个协（xié）议被破获（huò）之后，无人驾（jià）驶车就可能会失控。

那么，伊朗（lǎng）曾经通过（guò）GPS信号的欺骗，把美国的一架无人机迫降（jiàng）到伊朗的机场，这（zhè）种GPS的（de）信号欺骗也是一（yī）种（zhǒng）通（tōng）信协议的劫持。

第四个，算法可以被欺骗、被（bèi）误（wù）导（dǎo）。谷歌（gē）曾经有一个AI算法（fǎ），把黑人识别成猩猩，惹出了很大的风波。现在我们有（yǒu）一些人工（gōng）智能漏洞（dòng）挖掘团队，发现当你（nǐ）走在街上，面对满大街人（rén）工智能的基于人脸（liǎn）识别的（de）摄像（xiàng）头，你（nǐ）如（rú）果不想被他（tā）认出来（lái）你是一个人，你穿上特殊条纹或者特殊图案（àn）的T恤，摄像头（tóu）就（jiù）会不（bú）认（rèn）为你（nǐ）是一个人，它就对你不会做（zuò）面部（bù）识（shí）别，这就说明了算法是可以通过一种特殊的组合数据来（lái）进行欺（qī）骗和误导的。

更重要的数据可以被污染，或者（zhě）我们称之为数据（jù）投毒。因（yīn）为数据是宝贵的数字资产，AI的（de）深度（dù）学习是（shì）要基于大（dà）量的数据（jù）训练。但（dàn）是，如果我们在训（xùn）练过程中，我（wǒ）们给（gěi）的数据是有误的，有可（kě）能训练（liàn）出一个完全（quán）不一样的AI的结果。

比如说，如果我们在训（xùn）练如（rú）何识别（bié）猫的这样一个训练集的时候，我们给了很多狗的图片，那将（jiāng）来这个AI可（kě）能就会把狗误认为是猫（māo）。

AI比较独有的两（liǎng）个特（tè）点，我们（men）也在（zài）这儿提一下。就是应用上可能会危害人（rén）类的根本利益，这里面的（de）案例有两个，主要是涉及到社会伦（lún）理的问题。

第一，AI在5G上（shàng）战场直接攻击人（rén）类。原（yuán）来阿西·莫夫（fū）就希望说，只要有AI能力的，把（bǎ）这些机器都称之为（wéi）叫机器人，机器人永远（yuǎn）不（bú）要伤害（hài）人类。但是现在看来这个原则已（yǐ）经被打破。所以，我们可能有一个（gè）建议说，因为现在各国（guó）都（dōu）在（zài）AI跟武器结合方面，世界各国都在展开军备竞赛，这也是未来大国角力的焦（jiāo）点。

所以，AI武器应该把最后的决定权，应（yīng）该让人来（lái）做最后的（de）控制，而不是完全（quán）让AI做自动的判断、自动的决策。包括深（shēn）度伪造技（jì）术，前面已（yǐ）经讲（jiǎng）了，这个技（jì）术也涉及到对（duì）人的利益的（de）伤害。不仅可（kě）以用于网络诈骗（piàn），制造色情视频，甚至伪（wěi）造新闻，误导舆论。

你（nǐ）比如说（shuō），最近有人（rén）用马斯克的视频，深（shēn）度（dù）伪造。伪造了一（yī）个他鼓（gǔ）动粉（fěn）丝购（gòu）买特定的虚拟货币的（de）事（shì）件（jiàn），害得马斯克不得不出来辟谣，说这个视频（pín）是（shì）别人用（yòng）Deepfake来伪造（zào）的。

AI最（zuì）大的一个问题，也是现在我们国家很多（duō）学（xué）者（zhě）都在（zài）讨（tǎo）论的，AI在（zài）社（shè）会伦理上（shàng），有可能超出现有的（de）社会（huì）法律和道德（dé）的规范（fàn）。

比如说，有一个电车（chē）难题，如何认定无人驾驶车出事以后的责任。比（bǐ）如说在高速行（háng）驶（shǐ）之（zhī）中，自动驾驶汽车，如果避让行人，可能会撞上旁边的障碍物，导致车主人身伤亡；如果不避让，就（jiù）会导致（zhì）行人伤亡。在这种情况下，就有两个问题，AI的程（chéng）序应该如何来做出判断。第二个，如果出（chū）了（le）车祸，到底这个责任（rèn）应该算是AI的（de），算是车厂的，还算是驾驶（shǐ）员的（de），所（suǒ）以这些问题应该说都还没有一个明确的（de）答案。

前（qián）面（miàn）我（wǒ）们（men）讲了数（shù）字化技术带来了诸（zhū）多挑（tiāo）战，但是今天也有很多人（rén），对安全的认识还停留在（zài）计算机安（ān）全（quán）和（hé）网络（luò）安（ān）全的时代，以为安全就是杀（shā）杀病毒（dú），防防木（mù）马，用防火墙隔离等传统（tǒng）手段。

面（miàn）对大数据、人工智能（néng）各种（zhǒng）复（fù）杂的安全（quán）挑战，我觉得网络安全还（hái）应该重（chóng）新被定义，要将计算机安全、网络安全升级（jí）到数（shù）字安全，才能跟得上整个行（háng）业的发（fā）展要求，才能（néng）跟得上国家的产业（yè）数（shù）字化的发（fā）展要求，才能保障（zhàng）我们进入数字文（wén）明时代。

当前一个重要（yào）的（de）变化是（shì），人工（gōng）智能安（ān）全已（yǐ）经上（shàng）升为国家安全的重要组成部分，《国家（jiā）安全战略（2021年-2025年（nián））》明确提（tí）出加快提（tí）升网络（luò）安全、数据安全（quán）、人工（gōng）智能（néng）安全等领域的治理能力，这也（yě）是（shì）国家战略层面（miàn）首次提出来，人工智能安（ān）全的概念（niàn），说明人工智能安全是数字安全（quán）的一（yī）部分，也（yě）是平常我们所（suǒ）说的“非传统安（ān）全（quán）”。

反过来，说了半天AI的问题，我（wǒ）们讲数字化技术也是一把（bǎ）双刃剑。人（rén）工智（zhì）能技术高（gāo）速发展，带来（lái）安全（quán）挑战的同时，也（yě）为解决（jué）网络安全、数字安（ān）全的风险提供了（le）新的技（jì）术（shù）手段。

现在AI技（jì）术（shù）已经广泛利用于大数据的（de）分析、威胁情报的（de）处理、智能（néng）防御（yù）等领域，特别是在（zài）恶意代（dài）码（mǎ）的样本检测、恶（è）意代码流（liú）量分析、漏洞挖掘、僵尸网络检测、网络黑灰产检测等方面发挥了巨大的作用。360这几年连续帮助（zhù）国家发现（xiàn）了50个境外的国家级黑客组织，与我们对AI的（de）使（shǐ）用（yòng）都是分（fèn）不开的。

在AI数（shù）据分析方面，人工（gōng）智能在海量数据分（fèn）析方面，发挥了积极重要的（de）作用。因（yīn）为大（dà）数据的数量（liàng）浩如烟海，依靠人工去做发现（xiàn）是（shì）基本不可能的。必（bì）须（xū）借助人工智能，去对多（duō）维度海量（liàng）、鲜活的（de）安全大数据（jù）进行实时的分析，用算（suàn）力来代替人（rén）力，然后再从中挖掘出（chū）安全的线索，再由安全专家来进行跟（gēn）进。

在AI情（qíng）报处理方面，人工智能可以参与漏洞（dòng）的（de）挖掘，筛选（xuǎn）恶意的（de）样（yàng）本（běn）、恶（è）意的网（wǎng）址（zhǐ），对APT的攻击行（háng）为进行（háng）自动（dòng）化的分（fèn）析跟学习，实现针对威胁攻击的智能化检测、监测、预警（jǐng）和响应。

未来在AI智能防御方面，人（rén）工（gōng）智能可以（yǐ）发现未知的病毒木马（mǎ），对DDoS攻（gōng）击进（jìn）行监测（cè）和预警，并对APT的攻击溯源进行定（dìng）位，有效提高安全运（yùn）营的效（xiào）率，大幅度提高（gāo）我国（guó）的安（ān）全防御能力。

作为中国数字安（ān）全的（de）领军企业，360一直高度重视人工智能安（ān）全，率先在行业里进行布（bù）局，积极（jí）构（gòu）建人工智能安全能力（lì）体系。我们确立了“数据制胜”为核心（xīn）的新战法（fǎ），核心就（jiù）是无论任何（hé）的攻（gōng）击，首先要强调能够想办法（fǎ）利（lì）用大数据分析，能（néng）够看见（jiàn）攻击。看见攻击，那么随后对它进行阻断（duàn），进行溯（sù）源，进行封堵，进行清理，就变得比较简单。如果看不（bú）见，那（nà）什么都是抓瞎。

所（suǒ）以（yǐ），如何利用人工智能技术，从全网大数据中进（jìn）行分（fèn）析，建立全局视角，并（bìng）且从中构（gòu）建起看（kàn）见的这种能力。

在新（xīn）的战法指导下，360应用（yòng）人工（gōng）智能数据分析（xī）技术，对自身积累（lèi）的全（quán）球最大（dà）规模的安全大数（shù）据进（jìn）行实（shí）时分析，形成360全（quán）网安全大脑的原（yuán）型，为行业（yè）或者企业提供强（qiáng）大的数（shù）据和情（qíng）报（bào）支（zhī）撑，实现对网络威胁进行（háng）有效的分析、预警、发（fā）现和阻断。

面对人工智能自身（shēn）的安全挑（tiāo）战，360也积极（jí）参与人工智能漏洞挖掘。我（wǒ）们（men）一共发现了150多个机器（qì）学习框架和供应链的漏洞，涉及到Tensorflow、Caffe、PyTorch等主流深度学习AI开源（yuán）框（kuàng）架（jià）。我们发现了多款人脸识别设（shè）备的安全漏洞，利用漏洞（dòng）可以（yǐ）实现（xiàn）远程（chéng）控制、隐私（sī）的窃取、模型（xíng）文件的窃取。360的AI安全实验室（shì）发现了多（duō）款移（yí）动APP、人脸识别功能（néng）方面存（cún）在的数字泄漏的安全风险。

所（suǒ）以（yǐ），未来利用AI解决安（ān）全，也大有（yǒu）可为。

360将AI安全作为公（gōng）司业务发展（zhǎn）的重点方向（xiàng），愿意与行业、产业一起开放（fàng）协同创新。我（wǒ）们积极承（chéng）担（dān）安全大脑，国家新（xīn）一代人工智能开放创新平台的建设，目前360安全大脑开放平台（tái）的（de）能力，已经落地于工业（yè）互联（lián）网、物联（lián）网、智能网联车、智慧城市、数字（zì）政府等多个场景，并且赋能教育（yù）、运营商（shāng）、信创等（děng）诸多（duō）行业。

360还（hái）牵头研发了人工智能安全（quán）评测与风险（xiǎn）监测预警平台，入选工信部的（de）人（rén）工智（zhì）能产业创新任务（wù）揭榜单位名单。

作为中国数字安（ān）全的领军企业（yè），360愿意开放自（zì）身的安全（quán）大数据（jù），将产业力量联合起来，共建（jiàn）AI安全生态（tài），集中推动数字安全的（de）创（chuàng）新，其（qí）成果也将最终（zhōng）沉淀（diàn）于安全大脑（nǎo）人工智能创新开放平台的建设。

360还将在安全大脑（nǎo）人工智能开放（fàng）创新（xīn）平台建设的（de）基础之上，倡导建立人工智能与开（kāi）放（fàng）创（chuàng）新体（tǐ）系（xì），建立平台（tái）化机制，实（shí）现核心研（yán）究成果的对接（jiē）与转换（huàn），赋能（néng）人工智能（néng）与安全相关的中（zhōng）小微企业（yè）、高校、科研院（yuàn）所，赋（fù）能中小微（wēi）初（chū）创的安全企业，全球行业、AI产业，共享（xiǎng）技术（shù）成果，推动产业健康快（kuài）速发展，提升国家（jiā）人（rén）工智能（néng）安全整体的（de）防御能力。

在过去（qù）的20年里面，360核心做的（de）就一件事（shì），就是“安（ān）全”。希（xī）望在未来越来（lái）越富有挑战（zhàn）的安（ān）全环（huán）境里面，我们做到真正能（néng）看见攻（gōng）击，发现威胁，抵御威胁。

未来360将携（xié）手合作伙伴，共同夯实（shí）AI安全能（néng）力，把服（fú）务于国家和（hé）社会的数字安全能力复制到各个行业里（lǐ），为数字（zì）中国的（de）建设，各个行业的数字化转型贡献（xiàn）力量。

谢谢（xiè）大家！