LycheeMem 长期记忆配置详解：LLM与Embedding怎么选，.env关键参数完整清单

【免费下载链接】LycheeMemLightweight Long-Term Memory for LLM Agents.项目地址https://gitcode.com/gh_mirrors/ly/LycheeMem点击查看免费下载LycheeMem 是一个面向 LLM Agent 的轻量级长期记忆框架它通过.env文件统一管理所有配置项。本文带你逐项看懂.env里的关键参数LLM 模型怎么选、Embedding 模型怎么选、工作记忆预算怎么调并附上常见踩坑清单帮助你一次性配好这个 Agent 记忆系统。一、配置体系速览一个 .env 管所有LycheeMem 的所有配置都集中在项目根目录的.env文件中模板见 .env.example由 src/core/config.py 中的Settings类统一读取并映射到全局单例settings。有几个值得知道的机制加载优先级.env中的值会覆盖系统环境变量overrideTrue开发环境改.env即可生效存储无需外部数据库语义记忆使用 SQLite LanceDB工作记忆默认写入 SQLite开箱即用改动即生效修改.env后重启lycheemem-cli或python main.py即可。# 最小可用配置LLM Embedding API Key LLM_MODELopenai/gpt-4o-mini LLM_API_KEYsk-... EMBEDDING_MODELopenai/text-embedding-3-small EMBEDDING_DIM1536二、LLM 怎么选litellm 统一格式provider/modelLycheeMem 通过 litellm 调用大模型模型名遵循provider/model-name的统一格式同一套配置可切换不同供应商场景LLM_MODEL示例说明OpenAIopenai/gpt-4o-mini默认值性价比高Geminigemini/gemini-2.0-flash长上下文表现好Ollama 本地ollama_chat/qwen2.5离线私有化部署任意 OpenAI 兼容端点自行填写配合LLM_API_BASE指向代理选型建议想省钱/跑得快gpt-4o-mini这类小模型足够驱动记忆抽取和检索流程框架内部 LLM 调用多为结构化抽取任务不难内网代理模型名保持 OpenAI 格式把网关地址填进LLM_API_BASE即可完全离线用 Ollama 起一个本地模型LLM_API_KEY随意填占位值。相关参数在 src/core/config.py 中定义LLM_TEMPERATURE默认 0.7、LLM_MAX_TOKENS0 交给 provider 默认、LLM_TOP_P默认 0.8。一般保持默认即可只有微调回答风格时才需要动它们。三、Embedding 怎么选API、本地、共享服务三后端Embedding 模型决定记忆向量化质量是最影响检索效果的参数。LycheeMem 支持三种接入方式见 src/embedder/ 目录下的实现1. 云端 API默认最简单保持EMBEDDING_BACKENDlitellm直接填模型名EMBEDDING_MODELopenai/text-embedding-3-small EMBEDDING_DIM1536 # 若用独立账号可单独配置不填则复用 LLM_API_KEY EMBEDDING_API_KEY EMBEDDING_API_BASE2. 本地模型离线 / 免 API 费用开启EMBEDDING_LOCALtrue后EMBEDDING_MODEL填 HuggingFace 模型路径由 SentenceTransformerEmbedder 在本地运行EMBEDDING_LOCALtrue EMBEDDING_MODELQwen/Qwen3-Embedding-0.6B # 或 BAAI/bge-m3、all-MiniLM-L6-v2 EMBEDDING_DEVICEauto # auto / cpu / cuda / mps EMBEDDING_DIM1024 # 支持 Matryoshka 的模型可截断维度⚠️ 使用本地模型需先安装额外依赖pip install lycheemem[local-embed]见 pyproject.toml。3. 共享 HTTP 服务多进程复用一套模型多个 LycheeMem 实例共用一个远程 embedding 服务时用EMBEDDING_BACKENDhttp并指向服务地址模板中附有embedding_server.py的启动示例.env.example。关键技巧——EMBEDDING_DIM自动探测填EMBEDDING_DIM0时框架会在启动时真实调用一次接口探测向量维度本地模型则直接读取模型属性见 src/core/factory.py。拿不准维度时填 0 最稳妥避免维度不匹配导致向量库报错。四、.env 里的其他关键参数清单除了模型配置.env.example 还包含以下常调参数 工作记忆预算影响长对话行为参数默认值作用WM_MAX_TOKENS128000单会话工作记忆 Token 预算上限WM_WARN_THRESHOLD0.7到达 70% 时后台异步预压缩不阻塞请求WM_BLOCK_THRESHOLD0.9到达 90% 时暂停并压缩旧轮次后继续MIN_RECENT_TURNS4压缩时保留的最近原始轮次数上下文较小的模型如 8K 窗口应调低WM_MAX_TOKENS否则压缩触发前上下文就已溢出。 存储路径一般保持默认会话库、技能库、语义记忆库和向量索引默认都在data/下如SQLITE_DB_PATHdata/sessions.db、COMPACT_MEMORY_DB_PATHdata/compact_memory.db、SKILL_DB_PATHdata/skill_store.db。需要持久化或备份时改这里即可。⚖️ 检索增强可选开关参数说明RERANKER_ENABLED是否启用 CrossEncoder 重排默认关闭RERANKER_MODEL默认BAAI/bge-reranker-v2-m3RERANKER_BACKENDlocal本地推理或http共享服务SKILL_TOP_K技能库程序性记忆默认召回条数️ 视觉记忆 / VLM可选VLM_MODEL留空时会自动回退复用主 LLM见 src/core/factory.py。若主模型不支持图片识别建议单独配置视觉模型例如VLM_MODELopenai/qwen-vl-max配合VLM_API_KEY/VLM_API_BASE。五、常见踩坑清单 EMBEDDING_DIM与模型实际维度不符→ 向量写入/检索报错。对策填0让框架自动探测或查官方文档确认维度忘了填LLM_API_KEY→ 所有 LLM 环节记忆抽取、相关性评分、最终回答全部失败启动日志会有明确报错换了 Embedding 模型但没清旧数据→ 新旧向量维度/空间不一致建议删除data/下对应目录重建VLM 没配置却测试图片记忆→ 实际调用的是主 LLM可能不支持图片日志中会打印 未配置 VLM 模型将复用主 LLM 的警告。六、配完怎么验证 ✅启动服务并做一次端到端验证lycheemem-cli # 或 python main.py python examples/api_pipeline_demo.py --multi-turn # 三轮对话 自动固化服务运行在http://localhost:8000访问/docs可交互式调用 API用固定--session-id多次运行 demo 还能观察记忆跨会话积累效果。如果对话回答能正确引用你之前说过的偏好与事实说明 LLM 与 Embedding 配置都已生效。小结你想做的事改哪个参数切换模型供应商LLM_MODEL/LLM_API_KEY/LLM_API_BASE换向量模型APIEMBEDDING_MODELEMBEDDING_DIM本地离线跑 EmbeddingEMBEDDING_LOCALtrueEMBEDDING_DEVICE适配小上下文模型WM_MAX_TOKENS提升检索精度RERANKER_ENABLEDtrue核心思路一句话LLM 负责会说话Embedding 负责找得准.env里这两组参数决定 LycheeMem 长期记忆的上限其余参数按需微调即可。完整模板参考 .env.example更多架构细节见 README_zh.md。赞分享【免费下载链接】LycheeMemLightweight Long-Term Memory for LLM Agents.项目地址https://gitcode.com/gh_mirrors/ly/LycheeMem点击查看免费下载相关推荐localGPT环境配置.env文件关键配置选项详解localGPT环境配置.env文件关键配置选项详解 还在为localGPT环境配置头疼吗一文解决所有.env配置难题本文将深入解析localGPT项目的AI 应用RAG大模型NLP后端前端SupoClip 配置完全指南.env 变量清单 LLM 选型OpenAI/Google/OllamaSupoClip 配置完全指南.env 变量清单 LLM 选型OpenAI/Google/Ollama SupoClip 是一款开源的 AI 短视频剪OpenHanako 置顶记忆Pinned Memory完整指南永不衰减的长期记忆实现与配置OpenHanako 置顶记忆Pinned Memory完整指南永不衰减的长期记忆实现与配置 导读 本文围绕 OpenHanakoHanaAgent项人工智能AI AgentAI 应用桌面应用多智能体Agent 记忆AI 技能工具调用创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考