DeepSeek + 花生壳内网穿透教程(LM Studio)
更新日期:2025-02-21 16:27:35
今天给大家分享一个超简单、实用的教程,“解锁”DeepSeek新玩法!
无需任何代码,几乎零门槛,只需简单3步,就能快速在本地部署DeepSeek
轻松构建专属的私有知识库,并支持随时随地远程访问!告别服务器繁忙问题!
1、安装设置LM Studio
首先,下载、安装LM Studio,这同样是一款开源软件。
进入LM Studio官网,选择系统对应的版本的客户端,根据引导即可一键安装。
启动LM Studio,点击右下角设置,在App Setgtings将语言切换至中文
并启用“Use LM Studio's Hugging Face Proxy”选项加快模型下载速度
随后,在“Model Search”搜索DeepSeek关键词,即可选择所需的模型
点击右下角“Download”将其下载到本地。
目前可选择1.5B、7B、8B、14B、32B、70B、671B(满血版)参数大小的模型。
参数越大,模型性能越强,但是对于显卡和显存容量的要求也越高。
为了使用时拥有较快的响应速度,4GB显存建议选1.5B模型、8G可选7B、16G可选14B,推荐7B以上模型。
完成上述步骤后已经可以本地使用。
不过,为了实现远程调用LM Studio中的DeepSeek模型,
我们还需进入开发者选项卡,在“Settings”中
开启“启用CORS”以及“在局域网内提供服务”
允许局域网访问LM Studio API服务。
——————————————————————————
2、安装设置贝锐花生壳
在运行LM Studio的主机中,下载系统对应的花生壳客户端(点击链接前往下载页)
按照指引一步步安装后,通过微信扫码/手机号进行快捷登录。
在内网穿透页面,点击【添加映射】发布LM Studio站点
选择网站应用,填写LM Studio主机的局域网IP及默认端口号“1234”
即可一键生成固定的远程访问地址。
——————————————————————————
3、外网远程访问
接下来,为了实现远程调用DeepSeek模型、搭建私有文档知识库
可以使用另一款开源软件AnythingLLM 点击前往官网
同样,进入官网下载、安装AnythingLLM,初次使用会有引导
点击选择LM Studio并下拉至底部,在LM Studio Base URL中
填入前面花生壳所生成的【外网访问地址】
最后就可以实现远程访问自己所搭建的本地化DeepSeek啦!~
文档内容是否对您有帮助?
如果遇到产品相关问题,您可咨询 在线客服 寻求帮助。