琢磨了一天,把DeepSeek的本地部署彻底完成了,并测试了一下午基本完美运行了。当然AI环境你们必须要先安装好。然后下载这个这个本地部署压缩,解压即可完美运行。
我的4070ti spuer 运行32b已经是极限了,所以我也只能把模型下载到32b了,如果你们有更牛的显卡,可以继续下载模型。




这是我运行14b的截图 你们看看显卡占用

默认的管理员账号是jian27@126.com 和123@123.com 密码1234 进去后 自行修改

其他参数不熟悉的话 最好是不要乱动。等熟悉后再折腾
暂命名为DeepSeek-tool 。如果有更好的建议 留言下啊
关于版本的说明
mini版 去掉了所有的模型文件,需要自行下载
傻木优化版 模型已替换为 Q2量化版,模型只保留了14b和32b,显存占用大幅降低 更新地址 http://gpcb.net/4429.html
我在视频里面忘记说了。一定要运行一次.bat这个文件放到你解压的目录中,双击运行一次。必须要运行一次,以后就不用了,否则会出错。
20250217 更新记录
1 更新启动代码逻辑,启动速度提升
2 把上次忘记放的那个一定要运行一次.bat 放进压缩包了
20250221 更新记录
1 升级了open-webui 版本
2 升级了ollama 版本
3 优化启动逻辑
4 优化部分参数设置
20250226 更新记录
1 升级了升级了ollama 版本
20250307 更新记录
1 升级了open-webui 版本
2 升级了ollama 版本
20250329
升级ollama版本
20250430
1 升级虚拟环境的cuda版本为12.4,运行速度更快
2 整合QWEN3 8b 模型
3 升级ollama版本
20250516
1 升级ollama版本
20250707
1 升级ollama版本
20250822
1 升级整合包的AI环境 版本,执行效率更高
2 升级open-webui和ollama版本
3 修正部分小BUG
20250707
1 升级ollama版本
2 升级open-webui版本
20251011
1 升级ollama版本
2 升级open-webui版本
20251103
1 升级ollama版本
2 升级open-webui版本
20260405
1 升级ollama版本
2 升级open-webui版本
20261014
1 升级ollama版本
2 升级open-webui版本
整合包说明
1 虽然叫DeepSeek-tool,但是实际上支持99%以上的语言大模型
2 不再设置默认账号,第一次运行的时候,自己创建的账号就是管理员账号
3 执行效率高,对比同类工具 显存占用更低
4 启动前,必须执行一次 一定要运行一次.bat,否则可能会有各种错误
5 目前整合包包含一个qwen-code模型文件,其他模型可以自行去下载,非常简单