用“冰山思维”系统性应对生成式AI安全挑战

科技的发展常常以浪潮的形式出现。信息技术领域，“后浪”迭起，“C位”流转，但即便那些在时代的风口处在“浪潮之巅”的，也无法绕过永恒的课题：安全。

【资料图】

生成式AI（AIGC）近年热度非常，在启发“千行百业”的企业进行新一轮业务创新的同时，也在安全层面带来了全新的挑战。并且，由于生成式 AI依赖大量数据和模型、流程环节多维、细节丰富，让这些安全挑战复杂多样且变化多端。将安全合规“武装到牙齿”，伴随生成式AI的高速发展，变得更为紧要。

在“安全为先”的理念下，亚马逊云科技既提供了一系列的技术、服务和工具帮助更多企业充分释放生成式AI的潜力，创新或者应用生成式AI寻求增量；更将确保安全合规作为基础，将其生成式AI的各种安全相关工具与理念，涵盖数据、模型以及应用各个环节；再进一步，亚马逊云科技还将AI以及生成式 AI技术应用于其安全及合规服务中，以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。

前不久的“2023亚马逊云科技re:Inforce中国站”，亚马逊云科技，就将“生成式AI的安全挑战及对策”以及“如何将生成式AI应用于安全实践”做了全新呈现。

用“冰山思维”系统性审视​生成式AI安全

通过智能客服优化客户体验，通过自动生成代码提高技术团队生产力，通过文字生成图片的方式加速内容生成，通过自动化文档处理提高整个组织运营效率……这是各行各业、各个部门中的不少人正在经历的日常，代表着生成式AI持续被应用到企业运营的各个环节，提高效率、优化流程，甚至协助创新。

即便如此，生成式AI就像洋面上的一座“冰山”，应用它所带来的便捷与高效，依旧常常只是庞大山体显露的小小一角。

亚马逊云科技大中华区解决方案架构部总监代闻表示：

“生成式AI的需求越来越多从业务部门提出，不只是技术部门进行创新的工具或者是平台，而是变成了业务增强竞争力的一个核心手段。也正是因为生成式AI应用场景的井喷，业务部门需求如此旺盛，目前给企业的技术部门带来了前所未有的挑战。”

“从构建开始，我们就需要把安全作为企业AI战略发展中的核心环节。​然而，我们应该从哪里开始？依靠一个什么样的框架？这就要求我们不能只是关注AI应用本身，而是从一个全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。​生成式AI应用就像是海面上的冰山，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。​​”

也正是如此，“re:Inforce2023”整体探讨了“数据和模型的安全”、“应用安全”、“全球合规”三个大议题。

数据和模型安全，构建AI应用的关键

代闻表示：生成式AI的井喷对一个企业的数据平台有了更高的要求。要训练构建一个生成式AI的模型，需要大量的非结构化数据。如果一个企业直接去应用一个做好的模型进行微调，这时候又需要有高质量的专业化的数据来微调这个模型。这两个方面的要求目前对于大多数企业的数据平台都是提出了更高的要求。

先看数据安全。亚马逊云科技提供了贯穿生成式AI全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。通过提供一整套的解决方案、产品服务和实践，全面保护存储中、传输中以及使用中的数据。

通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，保护存储中的数据。​本次大会上，推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，该方案利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。

从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证四个方面对传输中的数据进行保护。

从身份认证、隔离环境、多方协作以及数据共享四个方面，进行使用中的数据保护。

再看模型安全。模型训练后进入生产环境的安全防护同样重要。针对大模型，几个月前，亚马逊云科技宣布推出Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。​

安全方面，Amazon Bedrock使用组织内部的数据来训练大模型，同时又保证：首先，背后给大模型做了私有拷贝，这个拷贝只是给客户服务，不会再跟其他任何的大模型共享。二是训练数据只是在客户账户里来帮助工作，Amazon Bedrock不会拿任何用户的数据来增进自己的模型。对企业采用大模型时关于数据主权、数据保护方面的担心，给了一个完善的答案。

同时，它能全面地使用亚马逊云科技提供的安全功能，Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成，集成以后可以很好地管理加密、权限控制和所有行为的日志。

应用安全，实现AI价值的保障

考虑到应用“创造价值”的属性，其安全必然是实现AI价值的保障。从防护方面，有两个阶段，第一个阶段是开发流程中的安全，第二个阶段是生产过程中的安全。

开发安全应该贯穿到从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程里，也就是要延伸到整个开发生命周期。基于这种趋势，新推出了两项服务：

Amazon CodeWhisperer，AI编程助手，可根据开发者指令利用内嵌的基础模型实时生成代码建议，内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议；Amazon CodeGuru Security，可以扫描代码，在代码里面寻找漏洞，还能够在CICD通过人工智能和机器学习的方式自动降低误报率，同时基于API设计，能够非常方便地集成到开发工作流里边去，实现集中化和扩展性。

运行投产安全则综合涉及零信任、威胁识别、攻击保护。

零信任方面，亚马逊云科技推出几个工具，帮助客户在自己的亚马逊云科技环境下构建一套机制。对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用，才能访问或者调用大模型里的制定API。

Amazon Verified Access可以搭建一套无需VPN的网络验证系统，还支持可以设置规则，这些管控，可以在几乎不对应用进行任何代码改变的情况下部署和发生；Amazon Verified Permissions，为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制；新的开源语言CEDAR，方便书写所有授权规则，使得更加轻松、快速地创建所有的访问控制权限。

针对威胁识别，Amazon GuardDuty使用了基于人工智能和机器学习的技术，使安全事件的误报率减少50%。能够实现初期检测，还可以做持续分析，会使用机器学习的技术来检测“所有的威胁”，以智能化的手段给予采取行动的建议。

针对网络防护，Amazon Shield用于防DDos攻击；Amazon WAF提供防火墙支撑，每天托管规则请求超过3500亿条；Amazon Firewall Manager管制防火墙策略，去年缓解了70万次DDos攻击。

AI反哺安全，提升安全合规效率

在提供生成式AI安全合规解决方案的同时，亚马逊云科技也将AI技术应用到其安全及合规服务中，通过更智能的安全及合规服务应对复杂的安全威胁、提升合规效率。这是一种技术的双向流动。

威胁检测服务Amazon GuardDuty可通过人工智能和机器学习将安全事件的误报率降低50%。亚马逊云科技通过在其500多项自身合规审计控制项中使用AI技术，大幅提升了自身的合规效率，将审计时间简约了53%。在此次大会上，亚马逊云科技推出了多项具有AI能力的安全服务新功能，包括推出Amazon CodeGuru Security 预览版，利用机器学习技术帮助用户识别代码漏洞，并提供修复漏洞的指导意见；扩大Amazon Detective发现组的范围至Amazon Inspector，该服务利用机器学习技术，可以帮助专业安全人员加快调查过程、确定根本原因。

在IDC近期发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技在专家能力、漏洞及威胁检测、威胁情报等7项目评估维度上是获得满分最多的厂商之一，其中“生态建设”评估维度是唯一获得满分的厂商。从全栈的角度考量安全合规，应该正是其中关键。（丁科技网原创，转载务必注明“来源：丁科技网”）

关键词：