以大模型为代表的新一轮人工智能（AI）浪潮正以前所未有的态势席卷千行百业。在这个颠覆性技术变革时代，数字安全领域将面临怎样的机遇与挑战？5月18日，“C3安全大会·2024”在南京举行。在这场数字安全行业的高级别闭门会议上，业界多方共同探索AI+时代的数字安全之道，为新时代安全生态建设提供了新的思路。
人工智能时代 网络安全形势严峻
“随着去年ChatGPT的发布，AGI（通用人工智能）技术让全球黑客开始狂欢。”亚信安全高级副总裁陈奋在“安全AI未来”主旨演讲中的这番描述并非危言耸听。事实上，AGI工具可以将黑客生成新威胁的时间由之前的数个月缩减至几小时甚至几分钟，与此同时，攻击者开始利用大模型迅速发现软件与服务中存在的漏洞，通过人脸深度伪造来实施网络诈骗犯罪的案例也越来越多。更有甚者，攻击者的目标正由传统的数字资产转向AI算力基础设施和大模型。“亚信安全监测到，短短一年时间，针对大模型的攻击手段已涌现出数十种不同的类型。”
专注AI安全攻防实战与对抗的亚信安全实验室模拟了去年发现的海绵样本攻击，大致原理是通过向大模型发布特殊的样本，让大模型的算力消耗急剧上升，原来短时间能做出响应的需求，现在则需要大量时间去计算。即便停止攻击，大模型返回结果的速度也变得很慢。“如果未来核心应用都是大模型驱动的AI原生应用，这种情况基本上就等于瘫痪了。”陈奋说。
这只是未来网络安全风险的“冰山一角”。与会专家学者形成共识的是，随着全球新一轮科技革命和产业变革的持续演进，以人工智能大模型为代表的新技术迅猛发展，数字化、网络化、智能化日新月异，网络安全面临的风险挑战不断增加，网络安全形势更为复杂严峻。
智谱AI总裁王绍兰介绍，从技术突破到应用落地显著加快、技术影响力呈现裂变式扩散、规模化应用与前沿攻关并举，这是新一代AI技术浪潮的特点。上海垣信卫星科技有限公司高级副总裁陆犇博士则透露，垣信拟于今年开始进行大规模的卫星组网建设，随着卫星互联网逐步建成，势必会为产业带来新的大数据源、新的分布式算力网络与快捷的人工智能分发途径。其间，包括通信的连接、数据的连接，以及无处不在的智能泛在体，都将面临更为突出的安全问题。
“现在安全的范畴需要扩大。”中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤认为，新的人工智能是信息智能、物理智能和生物智能的融合，AI大模型的能力极其强大，未来可能创造出很多发展机遇，但也蕴含着不少潜在风险，包括信息智能的风险、AI本身隐含的安全风险以及可控性、可信性、边界等问题。其中，AI幻觉、深度伪造等问题很有挑战性。“现在完全可以去仿造人的声音、图片和短视频且无法鉴别，而更大的风险是在物理世界、生物世界，当一个大模型可以控制上亿的车、无人机、机器人，连接到金融体系、核心体系，甚至和人的大脑连在一起，失控和被利用的风险更大。”
“在推动大模型相关技术进步的同时，也应未雨绸缪地做好防范工作，确保技术向善。”张亚勤院士强调。
用AI对抗AI 网络安全攻防升级
与会专家认为，网络安全的攻防从原来人和人之间的对抗，已经升级到AI和AI之间的对抗，只有AI驱动的网络安全防护检测技术才能识别AI驱动的黑客攻击技术。最典型的案例是深度伪造，人眼可能都看不出来的人脸替换，只有通过AI技术才能识别出来。
面对日益严峻的网络安全形势，全球科技企业都在加紧行动，网络安全范式正在革新。微软日前已经正式商用了可用自然语言交互的安全自动化解决方案Copilot for Security；谷歌去年也发布了网络安全大模型。全球网络安全企业Palo Alto、Crowd Strike已经在安全运营平台上集成了大模型能力。在AI技术浪潮推动下，Palo Alto已经成为全球首家市值突破千亿美元的安全公司，Crowd Strike的市值也逼近千亿美元。在中国，约80%以上的网络安全公司都在将大模型技术集成到网络安全产品中，近30%的公司已经开始做大模型安全的研究。
本次大会期间，亚信安全带来的“信计划”也包含了全新研发的保护算力云基础设施安全、大模型应用安全防护、大模型红蓝对抗测试等服务，并正式发布了网络安全行业领域自研大模型——信立方。据介绍，信立方大模型对于执行网络安全行业的精准问答、复杂的告警日志解读、深度的网络安全事件分析等专用场景都有独特的效果。
此外，亚信安全还在构想安全运营数字人，这是一个独立的大模型应用。用户每天会产生大量的安全事件，未来安全运营主管只要对数字人说：“帮我分析一下今天的安全态势怎么样？”数字人就会自动把当天的安全态势调出来。“今天哪些安全事件必须马上处理？”数字人可能会列举ABCD四个事件，只要告诉数字人处理哪个事件，这个事件就会被闭环处理，没有任何复杂的界面，完全是对话式的入口来完成过去很繁杂的操作工作。
针对近期频发的网络勒索事件，本次大会上，网络勒索响应与治理中心暨猎狐计划正式启动。该中心由亚信安全、中国联通江苏分公司、四川省数字产业有限责任公司、人民数据管理有限公司联合发起，以防范网络勒索的持续恶意攻击为目标，建立区域性和行业性的网络勒索响应与治理中心，形成常态化一体化的网络勒索安全运营。猎狐行动计划则通过事前、事中、事后三个阶段完善处理“银狐”木马，这一计划的实施将为有效打击网络勒索行为提供更加坚实的保障。
产学研用协同 多方共建安全生态
值得关注的是，本届C3安全大会上还举行了两项重磅签约仪式。其一是亚信安全和清华大学智能产业研究院联合研发行动升级计划，双方将进一步提升合作规模，实现科研实力与人力资源的优势结合，持续开展理论、技术、政策等方面的创新性研究工作；另一项则是亚信安全与华为终端的合作签约，双方将深度投入鸿蒙生态建设，结合领先行业的终端安全能力，为用户提供更加安全、可靠的终端环境，保障用户的信息安全。
产学研用加强协作正在成为业界的共识：只做大模型安全是无法解决大模型安全问题的，需要整个产业链、生态链多方融合，构建产品配套、软硬协同的产业生态。
“大模型产业链非常长，最终落地过程中会发现有更多企业参与进来，尤其是以大模型为基础的周边业态会更加丰富。”亚信安全高级副总裁兼CDO吴湘宁说，“现在大家都还在探索大模型生态安全的建设，可以明确的是整个生态链打开后，很多技术使用场景都会发生改变。”
在制造业，美的是较早把安全大模型落地到信息安全领域的企业。据美的集团首席信息安全官兼软件工程院院长刘向阳介绍：“过去做安全运营，安全日志每天80亿条，仅告警就有20万条，很难用人力处理。引入安全大模型后，把安全告警需要人工研判的数量从20万条降到了100至200条，这就是人工能够处理的程度了。”
谈及与亚信安全的合作，华为终端云开发者服务与平台部总裁望岳表示，鸿蒙操作系统是华为推出面向下一代端侧的操作系统，在华为设计理念里，“安全”排在所有因素之上。操作系统涉及计算、资源、通讯、图形图像等方方面面，安全体系特别庞大，安全面临的形势也尤为复杂，特别是应用到各个行业，在制造业、家电行业、金融业等，涉及安全的课题和考量点完全不一样。“鸿蒙操作系统其实也是一个容器，需要像亚信安全这样的合作伙伴，把多年的经验、积累、能力放到鸿蒙操作系统的底层，以协同治理好整个系统的安全。”
“在新的时代，数据正在成为最重要的资产，大模型如同现代冶炼厂，在铸造出这个时代的‘钢铁’。操作系统、行业大模型与‘云网安’共同构成新时代数据的基础设施，应用开发者们在建造征服数据海洋的战舰。”亚信联合创始人田溯宁如此生动的比喻，勾勒出的正是当前正在建设中的新时代安全生态。
