DeepSeek Harness本地部署教程｜搭配LlamaCpp本地模型全程零基础搭建

本文为DeepSeek Harness本地完整部署保姆级教程适配Windows系统全程零基础可上手。详细讲解Node.js26.7环境安装、DeepSeek官方仓库拉取、pnpm依赖安装、项目编译构建、Web服务启动搭配LlamaCpp部署qwen2.5-1.5b本地量化模型完成模型接口对接与可视化对话调试手把手教你搭建私有化AI Agent工作台无外网依赖、本地高效运行适合个人本地AI开发、模型测试、智能体调试场景。一、项目简介DeepSeek Harness是DeepSeek开源的全插件式AI Agent工作台支持自定义大模型接入、可视化对话调试、多插件拓展具备轻量化、高适配、可私有化部署的优势。相比在线AI工具本地部署可实现数据本地化、无调用次数限制搭配LlamaCpp量化模型低配设备也能流畅运行大模型对话能力是本地AI开发、智能体测试的优质工具。本次部署采用双仓库源码搭建方式整合官方核心源码与适配优化版本全程手动编译部署稳定性更强适配本地模型对接场景。项目仓库地址1. 官方核心仓库https://github.com/deepseek-ai/2. 适配优化仓库https://gitee.com/lyshark/deepseek-harness二、部署前置安装Node.js 26.7环境DeepSeek Harness运行依赖Node.js环境本次部署指定安装最新稳定版Node.js 26.7.0避免版本兼容报错。2.1 环境下载官方下载地址https://nodejs.org/zh-cn/download/current2.2 安装步骤下载对应Windows系统安装包默认路径安装即可无需修改配置全程下一步完成安装。2.3 环境验证打开CMD命令提示符输入以下命令输出版本号即为安装成功node -v npm -v三、拉取项目源码并进入项目目录将上述两个仓库源码下载至本地解压后统一命名为deepseek-harness存放至桌面或自定义英文目录路径请勿包含中文、空格。打开CMD切换至项目根目录cd deepseek-harness四、项目依赖安装与编译构建进入项目目录后依次执行以下全套命令完成包管理工具安装、依赖下载、项目打包构建。# 全局安装pnpm包管理器 npm install -g pnpm # 安装项目所有依赖 pnpm install # 编译构建项目生成前端静态资源 pnpm run build构建过程会自动打包前端资源出现chunk大小提示为正常现象无需处理等待4-5秒构建完成即可。五、启动DeepSeek Harness Web工作台项目构建完成后执行启动命令拉起本地Web服务pnpm dsh web启动成功后终端会输出本地访问地址默认地址为http://127.0.0.1:3080浏览器打开该地址即可进入DeepSeek Harness可视化工作台页面。六、LlamaCpp本地模型启动部署本次部署采用qwen2.5-1.5b-instruct-q4_k_m.gguf量化模型通过LlamaCpp搭建本地模型接口实现本地大模型对接无需联网调用API。将下载好的模型文件放置LlamaCpp根目录执行以下启动命令开启本地模型服务llama-server.exe -m qwen2.5-1.5b-instruct-q4_k_m.gguf --host 127.0.0.1 --port 11433 -c 16384 --cors-origins *参数说明–port 11433本地模型服务端口与后续工作台配置对应-c 16384设置上下文窗口大小提升对话连贯性–cors-origins *开启跨域允许工作台跨域调用模型接口七、工作台配置本地模型接口7.1 新增自定义模型配置进入DeepSeek Harness Web页面点击右下角【设置】新增自定义模型提供方填写对应配置信息模型名称qwen2.5-1.5b-instruct-q4_k_m.ggufAPI地址http://127.0.0.1:11433/v1API协议openai-completions模型目录自定义模型存放路径填写完成后点击【保存】并获取可用模型确认配置生效。7.2 启用本地模型对话返回工作台主页面在模型选择栏选中配置好的qwen2.5-1.5b量化模型开启标准对话模式。八、功能测试与效果验证新建会话输入提问指令如“请简单介绍一下自己”发送对话后工作台可正常调用本地LlamaCpp模型返回应答内容。页面可实时查看对话日志、Token消耗、推理速度、缓存命中率等数据代表整套本地部署模型对接流程完全成功。注内容由AI生成仅供参考。