生成式AI的两面性：挑战安全，然后更好地拥抱安全

生成式AI带来的全新挑战与机遇

生成式AI的变革为各行各业带来全新的机遇和挑战。近期，从思科发布的《2023年消费者隐私调查》中可以看出，人们对于生成式AI的态度既兴奋又担忧。有一半的受访者对AI是支持态度，尤其是生成式AI，比如想提高生活品质或者提升工作效率。但同时近六成的人担心AI会对个人隐私、企业品牌信誉带来潜在风险。

用户对生成式AI的担忧主要集中在信息分享安全、错误或误导性信息传播、有害信息扩散和引发人类失业危机等方面。并且消费者希望企业采取措施提升AI的可信度，包括应用的审核、决策透明度、人类参与决策、道德标准等。这些都是消费者普遍担心的问题，占比高达70%至80%。

在小编看来生成式AI像一把双刃剑，尤其在安全领域。实际应用中，生成式AI带来了挑战。首先，有了AI技术加持，虽然降低了企业全面扫描漏洞的门槛，精准度大幅提升，但也更容易暴露企业的资产、漏洞，网络攻击防不胜防。

其次，随着AI技术的提升，让黑客能更精准地制造钓鱼邮件等攻击，影响更具迷惑性。最后，使用生成式AI可能导致企业敏感信息、知识产权信息在无形中外泄，这也是企业加强数据规范的原因。

企业不得不持续评估AI技术带来的影响，即在享受AI带来的便利的同时，加强安全性与隐私保护。思科作为网络安全解决方案提供商，面对这些挑战，通过审核、透明决策和道德原则等方面提升AI的可信度，为企业提供更加安全可靠的服务。

思科用AI赋能安全创新的进展

思科致力于用AI赋能企业安全，不断进行创新。思科大中华区副总裁，安全事业部总经理卜宪录在采访中表示，谈到AI，人们通常想到的是“数据、算法、算力”。数据被普遍认为是最重要的要素，也就是说，谁能够收集并有效处理数据，谁就能在AI时代发挥更大的作用。对于安全领域而言，三大要素之外还要增加一个要素——智能。强调对海量数据的认知和深入研究的必要性，尤其是对基础漏洞和攻击手段的研究。

思科大中华区副总裁，安全事业部总经理 卜宪录

思科拥有500人+的专家团队——威胁情报组织Talos，也是网络安全领域最大的非政府安全研究团队之一，专注于为思科的客户、产品和服务提供保护。

思科的Talos团队通过分析恶意软件、漏洞、入侵行为和最新趋势，提供业内全面和主动的安全与威胁情报解决方案。在思科的安全产品和服务中进行整合，为安全研究和产品提供强有力的支持，构建了思科安全生态系统的坚实基础。

卜宪录表示，思科在数据搜集方面拥有得天独厚的优势。研究团队每天都在处理海量数据，包括每天搜集的安全事件和告警数据量，结合机器学习和AI算法组合的智能力量来处理数据。

思科这样同一个平台，同一个厂商的优势使平台能收集不同来源的数据，相互之间支持互通。从前，不同厂商、不同来源的数据有标准化和翻译的问题，统一收集上来进行分析和处理会增加难度，同一平台无论从检测效率还是运维成本上都有助于更高效地数据分析和处理。

思科分享生成式AI拥抱安全的三个场景

思科拥抱AI赋能安全创新分为预测式AI和生成式AI两方面。预测式AI拥抱安全是用于统计建模，威胁分析端点，基于云的基础设施、应用和数据保护等。

生成式AI方面，思科分享了三个基于简化安全，防御复杂攻击以及大语言模型安全使用的场景演示。第一个是安全策略的优化和自动化生成，第二是突出专业化攻击的检测，第三是加密流量检测可视化。

演示一展示了生成式AI在防火墙产品上的应用。传统防火墙策略尤其是大中型企业通常需要耗费大量人力和时间人工输入和优化。有了AI，思科通过语音或文本指令，可以自动生成策略并提供优化建议，与工单系统结合在一起，生成自动化工单，大幅简化了防火墙策略管理流程。这个策略小助手目前已应用于防火墙，未来将扩展到更多的安全产品线上。

演示二是突显了智能检测功能。传统检测产品经常面临大量误报问题，而结合来自不同来源的数据，思科能通过Talos积累的数据对异常行为进行智能分析，快速识别潜在风险并发出高可信度的警报，提醒管理员提前采取措施，首先隔离风险，然后是把受影响的终端和服务器隔离，样本提交到后台系统深入分析，结束后复盘，寻找过程中的问题。这是最新的XDR，也已经实际应用于检测和响应解决方案中。在XDR里，AMES是AI助理，用于XDR产品的管理界面，安全管理员能通过自然语言交流。

第三个演示则介绍了加密流量检测的可视化能力，由于加密流量在网络中的广泛应用，思科通过机器学习和AI技术，在不解密的情况下能够做到检测异常行为、恶意代码和攻击的能力。并不是说EVE加密可视化引擎会彻底替代解密后的检测方法，而是两者相结合。以进来100个流量为例，其中大量采用不解密检测到异常行为的达到90%，真正10%则需要解密并深入研究，实现性能和工作负载之间做最佳平衡。

除此之外，思科还有“负责任AI”的原则，强调一透明，二公平，三是负责任的行为，确保AI技术应用符合标准。

最后

思科还为了强化自身产品能力宣布多个收购，比如收购率先在网络安全领域使用大型语言模型 (LLM) 和自然语言理解 (NLU) 技术的公司Armorblox。今年9月份，思科还宣布收购网络安全公司Splunk。Armorblox已经有一些场景应用到思科的解决方案里。而Splunk在完成收购后也将大幅提升思科在生成式AI、大数据、云安全方面的方案完整性和能力，为用户提供更好的解决方案。

思科在过去十个月里发布了14个创新和解决方案，其中安全领域占7个类别，对安全的投入与重视程度可见一斑。期待通过AI技术的创新，思科能帮助企业提升网络安全防护水平，创造更加安全、可靠的网络环境。

未经允许不得转载：DOIT » 生成式AI的两面性：挑战安全，然后更好地拥抱安全