大模型引发五重安全风险 治理思路回归AI本源距离ChatGPT带来的大模型风潮已近半年，据《中国经营报》记者不完全统计，截至8月底，全国已经发布了逾百个行业AI大模型。但与此伴生的对于数据保护、合规风险及隐私泄露的担忧，也让业界格外关注AI大模型部署过程中将带来的安全风险。

　　对于大模型带来的安全挑战，多家企业认为，大模型已经展现前所未有的智能化水平，由此将占据企业的IT关键位置，而就此重要性带来的受攻击频度，也将使得大模型成为云计算、大数据、物联网、移动互联网之后的一个全新的安全战场。与此同时，大模型技术也将会在多个方面帮助提升网络安全运维效率，在更深层次改变格局的基础。

　　理解安全风险的来源，首先需明了其运转的特征和原理。中国工程院院士谭建荣认为，生成式人工智能具有“、大模型、大算力”三大技术特征，以及自然语言理解、知识工程方法、类脑交互决策等关键技术CQ9电子官网。因此，这使得生成式具备社会价值、用户使用、数据合规，数据安全、数据质量五大风险，这些风险在金融、医疗、教育、电商、传媒等各领域和应用场景都已有所体现。

　　对此，谭建荣认为，我国应完善监管体系，开展的应用培训，进行人工智能技术能力的拓展，加强企业间、政府间、社会间各级的合法治理。

　　记者注意到，我国在监管方面反应迅速，年初以来，我国相关部门已推进多项相关监管法案落地。其中，4月11日，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》（以下简称《办法》）并向社会公开征求意见。该《办法》聚焦隐私安全、技术滥用、知识产权和他益三大问题，为AIGC的发展建立了防护机制。

　　而对于风险的应对，中国工程院院士邬江兴则提出了以内生安全赋能网络弹性的思路。他认为，数智时代，安全与时代共命运。经济发展范式的转变往往呼应发展范式的变革，当前欧美发达国家大力发展网络弹性，使得信息系统不仅具备对网络攻击的预防和抵御能力，同时也具备了恢复和适应能力。所以网络弹性的愿景是美好的，但在落地实现方面仍然面临诸多技术挑战。

　　因此，他表示，针对网络空间未知漏洞后门这一“基因缺陷”无法避免的挑战，创新设计了系统架构，使得系统获得高安全、高可靠的广义功能安全能力，进而促进网络弹性这一美好愿景更好地实现。

　　不过，在强调风险的同时，谭建荣也提醒，与任何技术一样，人工智能也具有双面性，因此在抑制其负面作用的同时，也要利用其积极作用，以便将其和实体经济更有效地融合，推动我国各行各业数字化的转型。

　　在应对AI大模型安全风险的思路与策略上，AI技术本身具备的特性已经受到业界重视。据俄罗斯自然科学院外籍院士、中国电子信息产业发展研究院副总工程师刘权在2023TechWorld绿盟科技智慧安全大会上表示，通过传统的ICT网络安全模式已无法适应当前大模型带来的安全，而在有了AI大模型之后，其逆向估算能力尤其是针对有些恶意软件的反逆向工程能力，效果非常突出。

　　据刘权介绍，目前业内普遍认同，基于大模型的服务能力估算已能达到从业技术人员四到五年的水平，而通过AI算力提升防御数字化水平，再加上作为辅助的自动化运营，这使得AI在应对大模型风险方面具有先天优势。

　　这一背景，也使得以安全大模型来治理AI大模型的风险，成为行业共识。记者注意到，在2023TechWorld智慧安全大会上，作为我国网络安全领域的代表，便发布了“风云卫”安全大模型。据绿盟科技集团首席技术官叶晓虎介绍，“风云卫”安全大模型基于海量安全专业知识训练，构建一套覆盖安全运营、检测响应、知识问答等多种场景的网络安全运营辅助决策系统，从“场景牵引，技术驱动，生态协同”三个方面进行建设，应用AI实现安全行业工作范式重塑，通过大模型解决实战态势指挥调度、红蓝对抗辅助决策以及安全运营效能提升三大问题。

　　目前，该大模型产品已经开启试用。绿盟科技集团首席战略官赵粮提醒业界，虽然大模型技术将会在多个方面帮助提升网络安全运维效率，但大模型并不是万能的，需要业界做出大量艰苦基础工作。

　　据悉，为了加强防护体系的构建，除大模型外，绿盟科技也同期发布了数据保险箱、《安全行业大模型SecLLM技术》等重要新品和安全研究成果。此外，绿盟科技还联合中国计算机学会(CCF)发布了2023年年度CCF—绿盟科技“鲲鹏”科研基金项目，以推动产学研的生态合作。

　　正如国家信息中心副处长国强表示，争夺“数据主权”已经成为全球发展新态势，随着各国纷纷出台数据战略，立法维护国家数据主权。在此背景下，提升大模型的安全性将成为全球各国未来的产业重任之一，而我国安全企业已然迈出重要一步。