AI网关
更新日期:2025-12-17 11:53:36
花生壳AI网关的核心功能是统一管理、分发和监控所有已接入的AI服务。它可以将不同来源的AI服务转化为统一的格式输出,并生成公网可访问的链接。是个人实现本地AI服务随时随地访问的好帮手,也是企业实现AI聚合分发与稳定运维的必备组件。
功能优势
1.本地部署的AI(如Ollama,LM Studio等)轻松实现随时随地公网访问。
2.支持主流AI厂商的API服务接入管理,实现聚合AI服务,对外输出格式统一化。
3.提供AI对话页面,任何接入的AI服务无需依赖第三方应用也能立即对话。
4.支持AI服务访问密钥管理,安全地分发给外部人员。
5.对于每个密钥可单独的统计使用数据,监控已分发密钥的使用情况。
1.安装登录
下载安装花生壳客户端,并使用已实名认证的贝锐账号进行登录。注意:AI网关功能当前仅支持windows 10.0及以上版本。
2.AI网关设置
下面以硅基流动模型服务平台为例,介绍AI网关设置。
2.1 设置模型服务
(1)在硅基流动模型服务平台中,新建API密钥。
(2)在花生壳控制台中,点击“免费试用”【AI网关】功能。
(3)设置AI网关的模型服务。
| 模块 | 内容说明 |
|---|---|
| 模型服务平台 | 硅基流动 |
| API密钥 | 硅基流动服务平台的API密钥 |
| 模型 | 在硅基流动的模型广场中选择适用且可使用的模型(可加载所有模型或自定义添加个别模型) |
2.2 设置访问密钥
(1)点击AI网关的【访问密钥管理】,添加可登录花生壳AI网关的用户。
(2)添加可登录花生壳AI网关的用户后,生成其对应的密钥,用于后续的AI网关访问登录。
2.3 模型服务设置
点击AI网关的【模型服务设置】,引导步骤中未设置模型服务可在此进行设置;若已设置模型服务,可在此修改模型服务的内容。
3.AI网关应用
3.1在线AI对话
(1)在【AI网关】页面点击“开始对话”。
(2)输入2.2步骤所设置的花生壳访问密钥,进入AI对话窗口。
(3)选择AI网关中已有的模型进行使用。
3.2 第三方APP调用
以Cherry Studio为例,介绍如何使用第三方AI客户端集成花生壳AI网关服务。
(1)下载安装Cherry Studio后,按以下步骤填写信息。
点击右上角【设置图标】->点击【添加】提供商->自定义提供商信息,提供商类型为“OpenAI”->填写花生壳的访问密钥->填写花生壳AI网关的访问地址->添加AI网关已接入的模型(可加载所有模型或自定义添加个别模型)。
(2)在Cherry Studio的对话窗口中,可选择花生壳AI网关接入的AI模型进行对话。
文档内容是否对您有帮助?
如果遇到产品相关问题,您可咨询 在线客服 寻求帮助。



相关问题
其他问题