2025年参加亚马逊云科技的安全大会re:Inforce，能明显感觉到，生成式AI技术来了，安全技术人员比以前更忙了。
一方面，要抵御攻击者用AI发起的更复杂多样，且量大管饱的攻击。另一方面要关心如何以正确的方式利用AI来提高安全管理的效率。同时，还要关心如何让用户安全地用上生成式AI技术。
第三次参加re:Inforce，一个更为清晰的信息呈现在我面前，那就是：在云上才更容易在生成式AI技术大爆发的时代下，快速开发出更安全的生成式AI应用。
迁移上云：借助公有云服务来提高安全性
亚马逊云科技认为，云平台有安全技术体系和安全实践，上云之后可以继承这些安全能力，这被称作是责任共担。而且，用云用的越深入，亚马逊承担的越多，用户的管理负担就就越轻。
亚马逊云科技CISO Amy Herzog表示，当用户越来越多地使用Amazon Lambda、Amazon S3、KMS等托管服务时，可以减少人工配置错误，提升自动化和安全性。而且，亚马逊云科技会负责托管服务的补丁与维护，让客户聚焦业务创新。
对于业务系来说，定期打补丁仍是非常重要的安全措施。但在如今节奏极快的环境中，组织常常面临更新数量庞大、兼容性风险、停机顾虑、可视性不足等挑战，这使得每次更新都变成一项庞大的工程。
为了解决这些问题，组织确实需要建立起将补丁管理纳入整体安全与运维流程的意识。通过CI/CD流水线实现持续自动交付，能让补丁和更新变得更轻而易举，实现从软件到基础设施即代码的端到端自动化。
亚马逊云科技提供了多种工具做补丁管理。在操作系统层有Amazon Systems Manager，在容器层面有Amazon ECR Scanning，在依赖管理方面有Amazon CodeArtifact，最后还支持用Amazon Inspector + Security Hub提供风险排序和修复建议。
选顺手的工具：用AI技术强化安全服务的能力，同时也在简化操作
亚马逊云科技安全服务副总裁Gee Rittenhouse在采访中表示，我们发现客户喜欢那些易于操作、易于部署、易于使用的安全产品。因此，我们构建了大量具备这些特性的服务。
比如，在Amazon Security Hub的最近更新中，它将亚马逊云科技内部的多个安全服务整合为一个统一的解决方案，随后在其之上用分析能力查找潜在的关联性，帮助客户识别出他们最应优先关注的问题，从而更好地保护其云环境。
Gee Rittenhouse提到，以前虽然能把各项服务的安全发现进行整合，但只是简单的结果合并，并没有进行关联分析。更新后的Amazon Security Hub中加入了更高级的算法，对发现进行优先级排序并集中展示，客户可以直接在其中展开调查。
在威胁检测服务Amazon GuardDuty中，它将各类信号和发现整合成序列，这被称之为“扩展威胁检测”（extended threat detection），最初它主要用于检测泄露的凭证和S3存储桶中的数据，最近更新中，它将这一能力扩展到了Amazon EKS容器环境中。
AI技术可以提高效率，而Amazon GuardDuty从第一天起就集成了AI和机器学习技术，亚马逊云科技安全副总裁Hart Rossman介绍称，在亚马逊云科技内部已经使用机器学习和AI技术多年了，这些能力会通过不同方式开放给客户使用。
在re:Inforce上，托管型DDoS防护服务Amazon Shield新增了Network Security Director功能，它可以简化与SQL注入和DDoS)等威胁相关的配置问题的识别，并提出补救措施。这一服务通过与Amazon Q集成，用户对话获得互动式的反馈。
亚马逊云科技网络服务副总裁Robert Kennedy表示，该服务利用了生成式AI技术能力，其背后有一个可以解析各类安全相关数据的模型，帮助评估网络资源是否配置得当，识别潜在风险并提出修复建议，帮助客户在网络层面维持一个高度安全的环境。
最近，亚马逊云科技为Amazon Inspector新添加了代码安全功能，通过与源代码库集成，Amazon Inspector能够自动扫描代码库、依赖项以及IaC模板，精准定位漏洞所在的代码行，并提供具体修复建议。
为了进一步简化流程，亚马逊云科技把Amazon Inspector也集成到Amazon Q Developer中，在代码开发的早期就引入安全评估。它原本只支持亚马逊云科技的内部镜像仓库，这次更新后，它还支持GitHub和GitLab等外部代码库。
用AI写代码：使用生成式AI技术写出更安全的程序
现在的大型科技公司中，有的对于AI编码较为谨慎，有的则较为开放。此前，微软就曾表示，微软代码库中有大约20%到30%的代码是由AI写的。亚马逊CEO安迪贾西去年表示，Amazon Q已经节省了4500名员工一年的工作量。
Gee Rittenhouse在最近的采访中表示，亚马逊在内部用了很多AI工具，AI生成的代码不仅不会带来更多安全问题，反而因为引入生成式AI来发现安全问题，代码的安全性更高了。
比如，当把程序从旧的Java迁移到Java 17时，AI生成的代码质量和安全性更高，能避免很多人为容易出错的问题。此外，在代码测试和部署阶段，AI在速度、质量和安全性上都能带来很多好处。
Hart Rossman在采访中提到，安全团队主要在三个方面使用生成式AI，除了辅助生成代码场景，还有漏洞评估和渗透测试阶段。在安全事件响应阶段，人类分析师经常会与生成式AI工具搭配使用，在数据分析、解读和推理上提供帮助。
据了解，亚马逊在内部面向安全场景构建了一个基础模型，用这一模型来减少误报和漏报。当基于生成式AI技术提供面向用户的服务时，为了能呈现既简化又准确的内容，会需要额外做一些工作，防止出现错误。
安全地使用大模型技术：在云上开发生成式AI应用会更安全
在生成式AI时代，为了帮助用户快速开发出AI应用，亚马逊云科技推出了Amazon Bedrock托管服务。它具备完善的安全机制，让新模型上架后，用户能快速、安全地使用大语言模型开发应用，在云上开发生成式AI应用会更安全。
据了解，亚马逊云科技成了第一家通过FedRAMP High和DoD IL-4/5安全认证的云厂商。这代表Amazon Bedrock或者Amazon SageMaker已达到美国政府和军方认可的高安全标准，意味着任何人都可以放心使用其提供的Anthropic和Meta等大模型。
Hart Rossman提到，生成式AI技术需要重新思考如何授权模型，不能照搬传统数据安全策略，要构建多层次、系统性的深度防御架构。因为，大模型训练完成后，内部知识不可区分、不可修改的，安全授权无法针对单条数据，而是要对整个模型进行授权。
Amazon Bedrock上有多个大语言模型，亚马逊云科技为其设定了严格的格式规范和部署隔离要求，并实施细粒度的访问控制。模型运行在隔离的生产环境中，无法连接外部网络。同时，还会通过基于角色的授权机制对其使用进行严格管理。
在用户向模型发出提示词时，需要对提示词做预处理防护。可以使用Amazon WAF（Web应用防火墙）进行输入校验。以此确保发送给模型的提示词是安全的，不含有任何恶意内容，比如跨站脚本（XSS）或SQL注入类攻击。
在模型输出时，Amazon Bedrock也有多种安全机制。比如基于自动推理的策略检查和可配置的输出护栏（guardrails）。护栏可以帮助客户设定对输出内容的预期，比如防止输出包含个人身份信息（PII），或屏蔽某些敏感话题。
此外，自动推理检查则通过数据驱动和策略规则，验证模型输出的准确性与合规性。这就有点像“校验校验者”，形成了第二层验证机制。最终，通过两个独立的检查层级，对模型的输出进行安全性、可靠性和正确性的验证。
最后，在谈到当前面临的最大挑战时，Hart Rossman认为，最大的安全挑战在于安全团队自己还没有广泛使用这项技术。当自己都缺乏实践经验，就很难为企业提供切实可行、可信的安全指导。他非常建议安全团队率先掌握并应用生成式AI技术。
