Memory
适用范围
在以下情况使用此页面:
- 了解内存文件布局和工作流程
- 调整自动压缩前内存刷新
Moltbot 内存是代理工作空间中的纯 Markdown 文件。文件是真实来源;模型只"记住"写入磁盘的内容。
内存搜索工具由活动的内存插件提供(默认:memory-core)。通过 plugins.slots.memory = "none" 禁用内存插件。
内存文件(Markdown)
默认工作空间布局使用两层内存:
memory/YYYY-MM-DD.md- 每日日志(仅追加)。
- 会话开始时读取今天和昨天的内容。
MEMORY.md(可选)- 精选的长期内存。
- 仅在主私人会话中加载(永远不在群组上下文中)。
这些文件位于工作空间下(agents.defaults.workspace,默认 ~/clawd)。有关完整布局,请参阅代理工作空间。
何时写入内存
- 决策、偏好和持久事实写入
MEMORY.md。 - 日常笔记和运行上下文写入
memory/YYYY-MM-DD.md。 - 如果有人说"记住这个",请写下来(不要保留在 RAM 中)。
- 这个领域仍在发展中。提醒模型存储记忆会有帮助;它知道该做什么。
- 如果您希望某些内容持久保存,请要求机器人将其写入内存。
自动内存刷新(压缩前 ping)
当会话接近自动压缩时,Moltbot 会触发静默的代理轮次,提醒模型在上下文压缩之前写入持久内存。默认提示明确说明模型可以回复,但通常 NO_REPLY 是正确的响应,这样用户永远不会看到此轮次。
这由 agents.defaults.compaction.memoryFlush 控制:
{
agents: {
defaults: {
compaction: {
reserveTokensFloor: 20000,
memoryFlush: {
enabled: true,
softThresholdTokens: 4000,
systemPrompt: "Session nearing compaction. Store durable memories now.",
prompt: "Write any lasting notes to memory/YYYY-MM-DD.md; reply with NO_REPLY if nothing to store."
}
}
}
}
}详情:
- 软阈值:当会话令牌估计超过
contextWindow - reserveTokensFloor - softThresholdTokens时触发刷新。 - 默认静默:提示包含
NO_REPLY,因此不传递任何内容。 - 两个提示:用户提示加上系统提示附加提醒。
- 每个压缩周期一次刷新(在
sessions.json中跟踪)。 - 工作空间必须可写:如果会话在
workspaceAccess: "ro"或"none"的沙盒中运行,则跳过刷新。
有关完整的压缩生命周期,请参阅会话管理 + 压缩。
向量内存搜索
Moltbot 可以在 MEMORY.md 和 memory/*.md 上构建小型向量索引,以便语义查询可以找到相关笔记,即使措辞不同。
默认:
- 默认启用。
- 监视内存文件的更改(防抖)。
- 默认使用远程嵌入。如果未设置
memorySearch.provider,Moltbot 自动选择:- 如果配置了
memorySearch.local.modelPath且文件存在,则选择local。 - 如果可以解析 OpenAI 密钥,则选择
openai。 - 如果可以解析 Gemini 密钥,则选择
gemini。 - 否则,内存搜索保持禁用状态,直到配置完成。
- 如果配置了
- 本地模式使用 node-llama-cpp,可能需要
pnpm approve-builds。 - 使用 sqlite-vec(当可用时)来加速 SQLite 内部的向量搜索。
远程嵌入需要嵌入提供程序的 API 密钥。Moltbot 从身份验证配置文件、models.providers.*.apiKey 或环境变量解析密钥。Codex OAuth 仅涵盖聊天/补全,不满足内存搜索的嵌入。对于 Gemini,使用 GEMINI_API_KEY 或 models.providers.google.apiKey。使用自定义 OpenAI 兼容端点时,设置 memorySearch.remote.apiKey(和可选的 memorySearch.remote.headers)。
Gemini 嵌入(原生)
将提供程序设置为 gemini 以直接使用 Gemini 嵌入 API:
agents: {
defaults: {
memorySearch: {
provider: "gemini",
model: "gemini-embedding-001",
remote: {
apiKey: "YOUR_GEMINI_API_KEY"
}
}
}
}注意:
remote.baseUrl是可选的(默认为 Gemini API 基本URL)。remote.headers允许您在需要时添加额外的标头。- 默认模型:
gemini-embedding-001。
如果要使用自定义 OpenAI 兼容端点(OpenRouter、vLLM 或代理),可以使用带有 OpenAI 提供程序的 remote 配置:
agents: {
defaults: {
memorySearch: {
provider: "openai",
model: "text-embedding-3-small",
remote: {
baseUrl: "https://api.example.com/v1/",
apiKey: "YOUR_OPENAI_COMPAT_API_KEY",
headers: { "X-Custom-Header": "value" }
}
}
}
}如果不想设置 API 密钥,请使用 memorySearch.provider = "local" 或设置 memorySearch.fallback = "none"。
回退:
memorySearch.fallback可以是openai、gemini、local或none。- 仅当主嵌入提供程序失败时才使用回退提供程序。
批量索引(OpenAI + Gemini):
- 默认为 OpenAI 和 Gemini 嵌入启用。设置
agents.defaults.memorySearch.remote.batch.enabled = false以禁用。 - 默认行为等待批处理完成;如需调整,请设置
remote.batch.wait、remote.batch.pollIntervalMs和remote.batch.timeoutMinutes。 - 设置
remote.batch.concurrency来控制我们并行提交的批处理作业数(默认:2)。 - 当
memorySearch.provider = "openai"或"gemini"时应用批处理模式,并使用相应的 API 密钥。 - Gemini 批处理作业使用异步嵌入批处理端点,需要 Gemini Batch API 可用性。
为什么 OpenAI 批处理快速 + 便宜:
- 对于大型回填,OpenAI 通常是我们支持的最快选项,因为我们可以在单个批处理作业中提交许多嵌入请求,并让 OpenAI 异步处理它们。
- OpenAI 为批处理 API 工作负载提供折扣定价,因此大型索引运行通常比同步发送相同请求更便宜。
- 有关详细信息,请参阅 OpenAI 批处理 API 文档和定价:
配置示例:
agents: {
defaults: {
memorySearch: {
provider: "openai",
model: "text-embedding-3-small",
fallback: "openai",
remote: {
batch: { enabled: true, concurrency: 2 }
},
sync: { watch: true }
}
}
}工具:
memory_search— 返回带有文件 + 行范围的片段。memory_get— 按路径读取内存文件内容。
本地模式:
- 设置
agents.defaults.memorySearch.provider = "local"。 - 提供
agents.defaults.memorySearch.local.modelPath(GGUF 或hf:URI)。 - 可选:设置
agents.defaults.memorySearch.fallback = "none"以避免远程回退。
内存工具的工作原理
memory_search语义搜索来自MEMORY.md+memory/**/*.md的 Markdown 块(约 400 个令牌目标,80 个令牌重叠)。它返回片段文本(上限约 700 个字符)、文件路径、行范围、分数、提供程序/模型,以及我们是否从本地 → 远程嵌入回退。不返回完整文件负载。memory_get读取特定的内存 Markdown 文件(相对于工作空间),可选地从起始行开始读取 N 行。拒绝MEMORY.md/memory/之外的路径。- 这两个工具仅在代理的
memorySearch.enabled解析为 true 时启用。
索引内容(及时间)
- 文件类型:仅 Markdown(
MEMORY.md、memory/**/*.md)。 - 索引存储:每个代理的 SQLite 位于
~/.moltbot/memory/<agentId>.sqlite(可通过agents.defaults.memorySearch.store.path配置,支持{agentId}令牌)。 - 新鲜度:
MEMORY.md+memory/上的监视器标记索引为脏(防抖 1.5s)。同步在会话开始、搜索时或按间隔调度,并异步运行。会话记录使用增量阈值来触发后台同步。 - 重新索引触发器:索引存储嵌入提供程序/模型 + 端点指纹 + 分块参数。如果其中任何一个发生变化,Moltbot 会自动重置并重新索引整个存储。
混合搜索(BM25 + 向量)
启用后,Moltbot 结合:
- 向量相似度(语义匹配,措辞可以不同)
- BM25 关键词相关性(精确令牌,如 ID、环境变量、代码符号)
如果您的平台上无法使用全文搜索,Moltbot 会回退到仅向量搜索。
为什么混合?
向量搜索非常擅长"这意味着相同的事情":
- “Mac Studio 网关主机” vs “运行网关的机器”
- “防抖文件更新” vs “避免在每次写入时索引”
但在精确的高信号令牌方面可能较弱:
- ID(
a828e60、b3b9895a…) - 代码符号(
memorySearch.query.hybrid) - 错误字符串(“sqlite-vec unavailable”)
BM25(全文)相反:在精确令牌方面强,在改写方面弱。混合搜索是实用的中间立场:同时使用两种检索信号,这样您就可以获得"自然语言"查询和"大海捞针"查询的良好结果。
我们如何合并结果(当前设计)
实现草图:
- 从两侧检索候选池:
- 向量:按余弦相似度的前
maxResults * candidateMultiplier。 - BM25:按 FTS5 BM25 排名的前
maxResults * candidateMultiplier(越低越好)。
- 将 BM25 排名转换为 0..1 左右的分数:
textScore = 1 / (1 + max(0, bm25Rank))
- 按块 ID 合并候选并计算加权分数:
finalScore = vectorWeight * vectorScore + textWeight * textScore
注意:
vectorWeight+textWeight在配置解析中归一化为 1.0,因此权重表现为百分比。- 如果嵌入不可用(或提供程序返回零向量),我们仍然运行 BM25 并返回关键词匹配。
- 如果无法创建 FTS5,我们保持仅向量搜索(没有硬失败)。
这并不是"IR 理论完美",但它简单、快速,并且往往会提高真实笔记的召回率/精确率。如果以后想要更复杂,常见的下一步是倒数排名融合(RRF)或混合前的分数归一化(最小/最大或 z-score)。
配置:
agents: {
defaults: {
memorySearch: {
query: {
hybrid: {
enabled: true,
vectorWeight: 0.7,
textWeight: 0.3,
candidateMultiplier: 4
}
}
}
}
}嵌入缓存
Moltbot 可以在 SQLite 中缓存块嵌入,这样重新索引和频繁更新(特别是会话记录)就不会重新嵌入未更改的文本。
配置:
agents: {
defaults: {
memorySearch: {
cache: {
enabled: true,
maxEntries: 50000
}
}
}
}会话内存搜索(实验性)
您可以可选地索引会话记录并通过 memory_search 显示它们。这是一个实验性标志。
agents: {
defaults: {
memorySearch: {
experimental: { sessionMemory: true },
sources: ["memory", "sessions"]
}
}
}注意:
- 会话索引是可选的(默认关闭)。
- 会话更新经过防抖处理,并在超过增量阈值后异步索引(尽力而为)。
memory_search从不阻塞索引;在后台同步完成之前,结果可能稍微过时。- 结果仍然只包括片段;
memory_get仍然限于内存文件。 - 会话索引按代理隔离(仅索引该代理的会话日志)。
- 会话日志存在于磁盘上(
~/.moltbot/agents/<agentId>/sessions/*.jsonl)。任何具有文件系统访问权限的进程/用户都可以读取它们,因此将磁盘访问视为信任边界。对于更严格的隔离,请在单独的 OS 用户或主机下运行代理。
增量阈值(显示默认值):
agents: {
defaults: {
memorySearch: {
sync: {
sessions: {
deltaBytes: 100000, // ~100 KB
deltaMessages: 50 // JSONL lines
}
}
}
}
}SQLite 向量加速(sqlite-vec)
当 sqlite-vec 扩展可用时,Moltbot 将嵌入存储在 SQLite 虚拟表(vec0)中,并在数据库中执行向量距离查询。这使搜索快速,而无需将每个嵌入加载到 JS 中。
配置(可选):
agents: {
defaults: {
memorySearch: {
store: {
vector: {
enabled: true,
extensionPath: "/path/to/sqlite-vec"
}
}
}
}
}注意:
enabled默认为 true;禁用时,搜索回退到存储嵌入的进程内余弦相似度。- 如果 sqlite-vec 扩展丢失或加载失败,Moltbot 会记录错误并继续使用 JS 回退(没有向量表)。
extensionPath覆盖捆绑的 sqlite-vec 路径(对于自定义构建或非标准安装位置很有用)。
本地嵌入自动下载
- 默认本地嵌入模型:
hf:ggml-org/embeddinggemma-300M-GGUF/embeddinggemma-300M-Q8_0.gguf(约 0.6 GB)。 - 当
memorySearch.provider = "local"时,node-llama-cpp解析modelPath;如果 GGUF 丢失,它会自动下载到缓存(或如果设置了local.modelCacheDir),然后加载它。下载在重试时恢复。 - 本地构建要求:运行
pnpm approve-builds,选择node-llama-cpp,然后pnpm rebuild node-llama-cpp。 - 回退:如果本地设置失败且
memorySearch.fallback = "openai",我们会自动切换到远程嵌入(openai/text-embedding-3-small,除非覆盖)并记录原因。
自定义 OpenAI 兼容端点示例
agents: {
defaults: {
memorySearch: {
provider: "openai",
model: "text-embedding-3-small",
remote: {
baseUrl: "https://api.example.com/v1/",
apiKey: "YOUR_REMOTE_API_KEY",
headers: {
"X-Organization": "org-id",
"X-Project": "project-id"
}
}
}
}
}注意:
remote.*优先于models.providers.openai.*。remote.headers与 OpenAI 标头合并;远程在键冲突时获胜。省略remote.headers以使用 OpenAI 默认值。