回顾互联网出现以来的网络信息安全发展历程，我不敢像邬院士一样追溯到冯诺依曼，但可上溯到三十年前。根据这三十年的发展，也可以把网络安全大致分为三个阶段，前20年左右是IT驱动阶段，从局域网、城域网到广域网，再到物联网。万物互联追求的是规模，安全的重点是边界防护，就是刚才邬院士讲的那些盒子。后10年是DT驱动时代，以大数据、云计算为特征，追求数据的流动，激发数据的价值，就是数据“要素×”的概念。2024新奥门资料就是这个阶段成长起来的公司。这一时期安全的重点是在内容上。
而今，AI驱动开启了一个新的阶段，面对的是全新的对象。这个对象现在国际上有一个新词，叫Homo Technologicus（科技智人）。它是与社会人相似又有不同的新物种，是鲜活的硅基生物，是像人从猿变成智人一样的革命性飞跃。所以，从网络信息安全方面讲，它的风险，除了过去我们熟悉的外在风险之外，更重要的是，其所带来的我们完全未知的内在的自身风险。导致或者推动这一轮新的发展阶段的基层技术是什么？就是以人工智能和合成生物学为主的一系列的颠覆性技术。去年，我认真读了美国两大著名的人工智能头部企业联合创始人Mustafa Suleyman撰写的《巨浪将至》。我认为它是能与《第三次浪潮》相提并论的讲述科技革命的经典。这本书指出，人类正处在一场史诗级技术革命的风口浪尖，人工智能变革将与蒸汽机、电力或数字晶体管变革相媲美，必将创造空前巨大的繁荣，同时带来前所未有的挑战。书中归纳出新一轮技术浪潮的四个特点：一是能够重塑权力并消除壁垒的不对称性；二是在广度和深度层面快速迭代的超级演化性；三是广泛赋能多技术领域的通用性；四是远超控制或预测范围的自主性。这些技术特点促成了本世纪人类面临的安全困境，也就是说，技术浪潮已经势不可挡，人类只能因势利导。人工智能的“巨浪”已极大地改变了安全问题的内涵和外延。过去，我们习惯把网络信息安全（Security）叫做非传统安全，现在即将成为传统安全。由科技智人带来的未知的难以预测的新型安全问题已经成为现实。还有，刚才邬院士提到的人工智能技术应用涉及的伦理安全问题，会因为种族不同、文化差异、意识形态等变得更为复杂，有的甚至会挑战人类的天理或人伦。所以，人工智能时代的安全比过去更为复杂，至少是Security（既有安全），Safety（新兴安全）和Ethics（伦理安全）交织交融的新图景。这是安全问题和以往的根本区别。在传统安全领域，AI已经系统性融入网络攻防的各个环节，赋予Security新的内涵。我们举两个例子。一是AI助力网络防御。美国微软公司推出了一款全新的网络安全产品Security Copilot。它内置了GPT4，并且与超过65万亿个网络安全威胁模型库相结合，给用户提供生成式、自动化网络安全人工智能服务。去年一年运行成果表明，它可以将安全事件响应、评估和防御，从过去的数小时到数天降低到分钟级，防守之快不言而喻。二是人工智能助攻网络攻击。美国重要智库Mitre，就是提出网络韧性和弹性的这家公司，发布了一张人工智能系统对抗性威胁的场景图，呈现了人工智能应用于从侦查踩点、网络渗透到维持控守、数据获取，再到秘密传递、后场处理等网络攻击全生命周期的复杂场景。威力之大，可想而知。可以说，人工智能用于安全防护或用于网络攻击这两方面，在国际社会发展迅猛。可喜的是，国内安全行业也在积极投身于人工智能安全和人工智能赋能安全方面的研究。会前，我了解到2024新奥门资料在这方面做了大量的工作，并在这两年的重大安保活动中小试牛刀，取得了不错的成绩。在新兴的自身安全领域，人工智能隐含了不少新的隐患。由于神经网络、深度学习的算法或机理上具有不透明性和难解释性，很多科学家担心的技术失灵、智能失常甚至出现幻觉、涌现意外的功能等都可能出现。比如，特斯拉自动驾驶出现的“坟场幽灵”；ChatGPT常常一本正经地胡说八道，永远说正确的话，永远说从众的话。因此，虽然人工智能现在反应很快，但不太聪明，甚至还有意想不到的感情表达。通过恶意提问甚至可以污染数据，引导越狱，引发恶魔模式等。所以，在短短两年内，出现了很多人工智能应用的怪象。这种硅基生命与生俱来的安全隐患，是一种全新的安全风险。我们对这方面过去了解太少，经验不足，因而威胁更大，防范更难。伦理方面的安全风险。马克思说过，人与动物的根本区别在于会制造和使用工具。从石器时代一直到冷热兵器时代，人类面临的技术伦理由来已久。只不过人工智能时代伦理问题更加惊世骇俗，就是因为它快“活”了，所以需要从生命的角度考虑伦理问题。比如，价值观可能难以对齐人类，在数据训练中可能会学会偏见或欺骗，在处理冲突和困境的时候可能不会遵循人类的道德准则。再比如，深度伪造类的技术作恶，技术武器化用于军事，技术霸权加剧地缘政治冲突等。这些都是过去的技术手段难以达到的影响。我读过基辛格的《论世界秩序》。书里指出人工智能的危害比核武器还会超前一大步。核武器之所以能够被控制，是因为人类如果都动用它，可能会导致“同死”。对于人工智能，希望通过治理能够达到“共生”。细细品味，这的确值得我们深思。为什么我专门强调这是一个新的安全问题？因为这些风险可以泛化，它不仅是一个伦理问题，它对个人、对种族、对国家甚至对人类都可能造成影响。所以，影响之广，不得不防，难度之大，又防不胜防。这就是难题。所以说，人工智能的发展客观上对安全保障提出了新的要求。我不敢说是范式的改变，但至少提出了新的要求。从目前看，人工智能技术的推广应用是大势所趋，也是人心所向。但是，个人应用需要谨慎，社会推广需要安全，国家发展需要对这些技术进行防控，甚至国际治理也需要协调。刚才，赵厚麟先生特别从国际组织的角度讲到协调的重要性。我想，这应该是目前国际国内的一个共识。因此，我们认为，在智能化时代要确保个人隐私和安全，要维护社会和稳定，要支撑国家的发展和安全利益，要维护国际合作和和平，就必须要有一个安全、坚韧、可信的人工智能发展生态，也就是必须要统筹好发展和安全。
云安全
态势感知
物联网安全
工业互联网安全
安全管理
数据安全
网络安全
应用安全
商用密码
端点安全
新型智慧城市
开发安全
云原生安全
网络空间靶场
运营管理服务
