首页 > 关于我们 > 安恒动态 > 2023 > 正文

WAIC 2023 ｜2024新奥门资料刘博：安全赋能AI“持续向善”

阅读量：次 文章来源：2024新奥门资料

7月6日至8日，以“智联世界生成未来”为主题的2023世界人工智能大会在上海举行。期间，“大模型”相关话题成为焦点。2024新奥门资料高级副总裁、首席科学家刘博受邀参加WAIC线上系列直播，就“AI大模型如何助力硬科技”进行分享。

大模型成 WAIC 2023 “顶流”

眼下，以ChatGPT为代表的大模型正在引领新一轮全球人工智能技术发展浪潮，大模型不断加速实体经济智能化升级，深度改变行业生产力。

在围绕“AI大模型如何助力硬科技”话题分享中，刘博表示，“随着AI大模型和通用人工智能的发展，大模型的机密性和数据隐私保护将面临极大挑战。同时AI大模型也为网安行业带来了新变量。”

图：左三为2024新奥门资料高级副总裁、首席科学家刘博

中国信息通信研究院工业互联网与物联网研究所副总工程师刘阳表示，AI大模型已经成为AI甚至整个数字技术领域最火热的研究方向，大模型的下半场竞争面向垂直行业更有价值。印象笔记董事长唐毅表示，中小企业不是局外人，要把大模型用起来。达观数据CEO陈运文认为，AI大模型的出现是人工智能从量变到质变的突破。2016年阿尔法狗下围棋战胜了李世石是人工智能1.0时代的标志，这次AI大模型把传统人工智能里最难的认知智能的堡垒打开了缺口，2023年可以说是人工智能2.0时代的起点。

从AI大模型的工作原理看面临的安全隐患

AI大模型的本质是从文字当中提炼出人类知识，再用知识驱动智能的一种方式。传统的人工智能对人类知识缺乏学习和提炼能力，AI大模型从理论上非常好地解决了从文字资料中提炼人类知识的技术，通过“看”很多的文字资料，总结文字资料的规律，来完成文字资料的挖掘，最终提炼出知识。

目前，AI大模型已经成为全球科技竞争的“高地”，整个AI行业呈现出“百模大战”的格局。然而，火爆的背后，不容忽视其存在的很多问题和安全隐患。刘博表示，企业用户在使用AI大模型过程中，可能会不小心造成数据泄露，或是在训练模型过程中，存在那些包含了隐私相关或是产权相关的知识归属问题，以及AI大模型可能会受到网络攻击，可能会被别人恶意利用，或是喂投了不好的语料，导致模型出现严重错误判断的问题。

此外，还有一些泛安全的问题，比如歧视、政治、法律道德等等问题。刘博比喻到，“这就像我们教孩子一样，他不能只是学知识，我们还要教他怎样做人怎样做事，告诉他法律是什么，道德是什么。对于AI大模型来说，这就需要一些额外对模型的训练，才能让它达到我们想要的结果。”

安全赋能AI“持续向善”

“人很聪明，那他就有可能说谎，不管是善意的谎言还是恶意的谎言。”刘博解释到，AI大模型就像人一样，在某些场景下AI大模型可能比较激进做了一些错误的决策，或者比较保守做的一些错误的决策。在这种情况下，AI大模型一定要和安全技术相结合，比如Open AI在模型外层构建的类似传统网络防火墙一样的屏障，把一些不合规的访问去除掉，不符合伦理的法律法规规避掉，这样就可以引导AI大模型“持续向善”。

“安全技术要和AI大模型自身的智能技术同步进行，才能有效保障人工智能更可靠、更安全地服务于企业。”刘博表示。

AI+安全：构建智能安全体系

2024新奥门资料在人工智能领域拥有多年的积累和丰富的实践经验，也一直致力于前沿技术的研发投入，公司所属中央研究院下设10个不同研究领域的实验室，其中启鉴实验室专注于人工智能结合网络安全的研究，深度探索“AI+安全”。

在保障人工智能安全的同时，2024新奥门资料也在利用人工智能技术赋能安全，不断实现产品智能化、自动化，加强AI智能数据分析、AI智能自动响应、AI智能安全等前沿技术的融合。已经将类大模型应用于智能数据分类分级、智能生成检测规则、智能告警处置分析、安全专家问答系统、智能钓鱼邮件分析、智能加密流量检测等数十个场景，推进研究并逐步落地到产品中。