如何查明你的AI供应商是否存在安全风险

在采用AI的何查过程中,最令人担忧的商否问题之一是数据泄露 。想象一下这样的存安场景 :一名员工登录到他们常用的AI聊天机器人中 ,粘贴了敏感的全风公司机密数据 ,并要求对其进行总结。何查就这样,商否机密信息被输入到了不受你控制的存安第三方模型中 。

即使有数据防丢失(DLP)策略 ,全风预防AI数据泄露也颇具挑战。何查如果AI系统是香港云服务器商否基于云的,且员工可以在外部访问它,存安那么公司可能永远不会知道自己的全风数据何时遭到了泄露 。

此外,何查大多数AI供应商不仅提供网页界面 ,商否还通过API提供程序化访问 ,存安然而 ,API也带来了一个重大的安全盲点 。如果AI供应商允许远程API访问,你如何验证是谁在使用它?如果攻击者获得了API令牌的访问权限,他们可以在不被发现的免费模板情况下提取或操纵数据 。

AI安全检查清单:在供应商中寻找什么

如果你在评估AI提供商 ,安全必须是首要考虑因素 ,尤其是在处理敏感业务数据时。以下是选择AI供应商时必须具备的安全功能 :

1. 认证和授权标准

API访问绝不应通过用户名和密码授予。相反,应寻找基于令牌的认证 :

• 供应商必须支持OAuth 2.0以进行安全令牌生成

• 令牌应继承或具有可分配的权限 ,以确保最小权限访问

• 禁止令牌共享 。每个系统或用户都应有唯一的凭据

2. 令牌监控与生命周期管理

供应商应提供活动认证令牌的高防服务器集中列表 ,并且令牌应包含元数据 ,如:

• 由谁创建

• 创建时间、最后修改时间和最后使用时间

• 分配的权限

• 是否仍然有效或已过期

3. 全面的API日志记录和审计轨迹

AI供应商必须提供API访问的审计日志,并且这些日志应可通过API进行实时监控。每个日志条目至少应包括:

• 访问的日期和时间

• 源IP地址

• 用于访问的令牌

• 执行的操作(例如 ,“创建新令牌” ,“检索数据”)

• 成功或失败状态

高级日志记录应包括完整的API端点、源码下载HTTP方法和HTTP响应代码,以提供详细见解  。

4. 透明的文档

AI供应商应以开放格式(例如 ,OpenAPI或Swagger)提供完整的API文档 。如果没有适当的文档,组织将无法了解其AI交互的日志记录和安全性。

隐藏的API安全危机

在研究了两年多的API安全后 ,我仍然对AI供应商中缺乏日志记录、监控和安全功能感到震惊  。没有足够日志记录的源码库API创建了一个无形的攻击面,使得未经授权的访问可以在不被发现的情况下发生 。

我们已经听说过API令牌在GitHub存储库中被泄露或在暗网论坛上被出售的恐怖故事。一旦攻击者获得了有效的API令牌 ,他们就可以无限期地利用它 ,直到有人发现为止 。

AI已经到来,但安全不能再被忽视。在信任任何AI供应商处理敏感数据之前,组织必须要求透明的API安全、云计算严格的监控和强大的认证控制。

如果AI供应商缺乏基本的安全控制 ,他们就会带来风险 。AI供应商应为安全负责。如果AI供应商无法回答是谁在使用他们的API、上次访问时间以及如何使用它们,那么他们就不值得你的业务。

滇ICP备2023006006号-25