集中式、安全的 API 网关

ayesha983

Dataiku 如何提供帮助？
有了 Dataiku 的 LLM Mesh 层，团队可以灵活无缝地从一个 LLM 提供商或矢量数据库过渡到另一个，而不会中断整个项目流程或显著改变代码配方。听起来很简单，但这非常强大。   

LLM Mesh 提供了一个安全的 API 网关，可以安全地存储您组织的 API 密钥、管理模型的安全性和访问，并管理 LLM 使用控制以进行 PII 检测和毒性监控。

连接级设置安全地存储 API 密钥并控制用户对 LLM 的访问和使用

连接级设置安全地存储 API 密钥并控制用户对 LLM 的访问和使用

如果没有 LLM Mesh，API 密钥可能会直接嵌 智利电报数据 入到脚本中——这种做法不仅会带来技术债务，而且如果密钥被泄露或共享，还可能危及云数据和 IT 合规政策。

带有硬编码 API 密钥的 Gen AI 脚本示例

带有硬编码 API 密钥的 Gen AI 脚本示例

最重要的是，在应用程序级别，脚本中不需要任何凭据。就像从 Dataiku 内部访问任何存储系统或数据库一样，用户组权限决定了谁可以使用 LLM 连接。