Memory

Memory

适用范围

在以下情况使用此页面:

  • 了解内存文件布局和工作流程
  • 调整自动压缩前内存刷新

Moltbot 内存是代理工作空间中的纯 Markdown 文件。文件是真实来源;模型只"记住"写入磁盘的内容。

内存搜索工具由活动的内存插件提供(默认:memory-core)。通过 plugins.slots.memory = "none" 禁用内存插件。

内存文件(Markdown)

默认工作空间布局使用两层内存:

  • memory/YYYY-MM-DD.md
    • 每日日志(仅追加)。
    • 会话开始时读取今天和昨天的内容。
  • MEMORY.md(可选)
    • 精选的长期内存。
    • 仅在主私人会话中加载(永远不在群组上下文中)。

这些文件位于工作空间下(agents.defaults.workspace,默认 ~/clawd)。有关完整布局,请参阅代理工作空间

何时写入内存

  • 决策、偏好和持久事实写入 MEMORY.md
  • 日常笔记和运行上下文写入 memory/YYYY-MM-DD.md
  • 如果有人说"记住这个",请写下来(不要保留在 RAM 中)。
  • 这个领域仍在发展中。提醒模型存储记忆会有帮助;它知道该做什么。
  • 如果您希望某些内容持久保存,请要求机器人将其写入内存。

自动内存刷新(压缩前 ping)

当会话接近自动压缩时,Moltbot 会触发静默的代理轮次,提醒模型在上下文压缩之前写入持久内存。默认提示明确说明模型可以回复,但通常 NO_REPLY 是正确的响应,这样用户永远不会看到此轮次。

这由 agents.defaults.compaction.memoryFlush 控制:

{
  agents: {
    defaults: {
      compaction: {
        reserveTokensFloor: 20000,
        memoryFlush: {
          enabled: true,
          softThresholdTokens: 4000,
          systemPrompt: "Session nearing compaction. Store durable memories now.",
          prompt: "Write any lasting notes to memory/YYYY-MM-DD.md; reply with NO_REPLY if nothing to store."
        }
      }
    }
  }
}

详情:

  • 软阈值:当会话令牌估计超过 contextWindow - reserveTokensFloor - softThresholdTokens 时触发刷新。
  • 默认静默:提示包含 NO_REPLY,因此不传递任何内容。
  • 两个提示:用户提示加上系统提示附加提醒。
  • 每个压缩周期一次刷新(在 sessions.json 中跟踪)。
  • 工作空间必须可写:如果会话在 workspaceAccess: "ro""none" 的沙盒中运行,则跳过刷新。

有关完整的压缩生命周期,请参阅会话管理 + 压缩

向量内存搜索

Moltbot 可以在 MEMORY.mdmemory/*.md 上构建小型向量索引,以便语义查询可以找到相关笔记,即使措辞不同。

默认:

  • 默认启用。
  • 监视内存文件的更改(防抖)。
  • 默认使用远程嵌入。如果未设置 memorySearch.provider,Moltbot 自动选择:
    1. 如果配置了 memorySearch.local.modelPath 且文件存在,则选择 local
    2. 如果可以解析 OpenAI 密钥,则选择 openai
    3. 如果可以解析 Gemini 密钥,则选择 gemini
    4. 否则,内存搜索保持禁用状态,直到配置完成。
  • 本地模式使用 node-llama-cpp,可能需要 pnpm approve-builds
  • 使用 sqlite-vec(当可用时)来加速 SQLite 内部的向量搜索。

远程嵌入需要嵌入提供程序的 API 密钥。Moltbot 从身份验证配置文件、models.providers.*.apiKey 或环境变量解析密钥。Codex OAuth 仅涵盖聊天/补全,满足内存搜索的嵌入。对于 Gemini,使用 GEMINI_API_KEYmodels.providers.google.apiKey。使用自定义 OpenAI 兼容端点时,设置 memorySearch.remote.apiKey(和可选的 memorySearch.remote.headers)。

Gemini 嵌入(原生)

将提供程序设置为 gemini 以直接使用 Gemini 嵌入 API:

agents: {
  defaults: {
    memorySearch: {
      provider: "gemini",
      model: "gemini-embedding-001",
      remote: {
        apiKey: "YOUR_GEMINI_API_KEY"
      }
    }
  }
}

注意:

  • remote.baseUrl 是可选的(默认为 Gemini API 基本URL)。
  • remote.headers 允许您在需要时添加额外的标头。
  • 默认模型:gemini-embedding-001

如果要使用自定义 OpenAI 兼容端点(OpenRouter、vLLM 或代理),可以使用带有 OpenAI 提供程序的 remote 配置:

agents: {
  defaults: {
    memorySearch: {
      provider: "openai",
      model: "text-embedding-3-small",
      remote: {
        baseUrl: "https://api.example.com/v1/",
        apiKey: "YOUR_OPENAI_COMPAT_API_KEY",
        headers: { "X-Custom-Header": "value" }
      }
    }
  }
}

如果不想设置 API 密钥,请使用 memorySearch.provider = "local" 或设置 memorySearch.fallback = "none"

回退:

  • memorySearch.fallback 可以是 openaigeminilocalnone
  • 仅当主嵌入提供程序失败时才使用回退提供程序。

批量索引(OpenAI + Gemini):

  • 默认为 OpenAI 和 Gemini 嵌入启用。设置 agents.defaults.memorySearch.remote.batch.enabled = false 以禁用。
  • 默认行为等待批处理完成;如需调整,请设置 remote.batch.waitremote.batch.pollIntervalMsremote.batch.timeoutMinutes
  • 设置 remote.batch.concurrency 来控制我们并行提交的批处理作业数(默认:2)。
  • memorySearch.provider = "openai""gemini" 时应用批处理模式,并使用相应的 API 密钥。
  • Gemini 批处理作业使用异步嵌入批处理端点,需要 Gemini Batch API 可用性。

为什么 OpenAI 批处理快速 + 便宜:

  • 对于大型回填,OpenAI 通常是我们支持的最快选项,因为我们可以在单个批处理作业中提交许多嵌入请求,并让 OpenAI 异步处理它们。
  • OpenAI 为批处理 API 工作负载提供折扣定价,因此大型索引运行通常比同步发送相同请求更便宜。
  • 有关详细信息,请参阅 OpenAI 批处理 API 文档和定价:

配置示例:

agents: {
  defaults: {
    memorySearch: {
      provider: "openai",
      model: "text-embedding-3-small",
      fallback: "openai",
      remote: {
        batch: { enabled: true, concurrency: 2 }
      },
      sync: { watch: true }
    }
  }
}

工具:

  • memory_search — 返回带有文件 + 行范围的片段。
  • memory_get — 按路径读取内存文件内容。

本地模式:

  • 设置 agents.defaults.memorySearch.provider = "local"
  • 提供 agents.defaults.memorySearch.local.modelPath(GGUF 或 hf: URI)。
  • 可选:设置 agents.defaults.memorySearch.fallback = "none" 以避免远程回退。

内存工具的工作原理

  • memory_search 语义搜索来自 MEMORY.md + memory/**/*.md 的 Markdown 块(约 400 个令牌目标,80 个令牌重叠)。它返回片段文本(上限约 700 个字符)、文件路径、行范围、分数、提供程序/模型,以及我们是否从本地 → 远程嵌入回退。不返回完整文件负载。
  • memory_get 读取特定的内存 Markdown 文件(相对于工作空间),可选地从起始行开始读取 N 行。拒绝 MEMORY.md / memory/ 之外的路径。
  • 这两个工具仅在代理的 memorySearch.enabled 解析为 true 时启用。

索引内容(及时间)

  • 文件类型:仅 Markdown(MEMORY.mdmemory/**/*.md)。
  • 索引存储:每个代理的 SQLite 位于 ~/.moltbot/memory/<agentId>.sqlite(可通过 agents.defaults.memorySearch.store.path 配置,支持 {agentId} 令牌)。
  • 新鲜度:MEMORY.md + memory/ 上的监视器标记索引为脏(防抖 1.5s)。同步在会话开始、搜索时或按间隔调度,并异步运行。会话记录使用增量阈值来触发后台同步。
  • 重新索引触发器:索引存储嵌入提供程序/模型 + 端点指纹 + 分块参数。如果其中任何一个发生变化,Moltbot 会自动重置并重新索引整个存储。

混合搜索(BM25 + 向量)

启用后,Moltbot 结合:

  • 向量相似度(语义匹配,措辞可以不同)
  • BM25 关键词相关性(精确令牌,如 ID、环境变量、代码符号)

如果您的平台上无法使用全文搜索,Moltbot 会回退到仅向量搜索。

为什么混合?

向量搜索非常擅长"这意味着相同的事情":

  • “Mac Studio 网关主机” vs “运行网关的机器”
  • “防抖文件更新” vs “避免在每次写入时索引”

但在精确的高信号令牌方面可能较弱:

  • ID(a828e60b3b9895a…
  • 代码符号(memorySearch.query.hybrid
  • 错误字符串(“sqlite-vec unavailable”)

BM25(全文)相反:在精确令牌方面强,在改写方面弱。混合搜索是实用的中间立场:同时使用两种检索信号,这样您就可以获得"自然语言"查询和"大海捞针"查询的良好结果。

我们如何合并结果(当前设计)

实现草图:

  1. 从两侧检索候选池:
  • 向量:按余弦相似度的前 maxResults * candidateMultiplier
  • BM25:按 FTS5 BM25 排名的前 maxResults * candidateMultiplier(越低越好)。
  1. 将 BM25 排名转换为 0..1 左右的分数:
  • textScore = 1 / (1 + max(0, bm25Rank))
  1. 按块 ID 合并候选并计算加权分数:
  • finalScore = vectorWeight * vectorScore + textWeight * textScore

注意:

  • vectorWeight + textWeight 在配置解析中归一化为 1.0,因此权重表现为百分比。
  • 如果嵌入不可用(或提供程序返回零向量),我们仍然运行 BM25 并返回关键词匹配。
  • 如果无法创建 FTS5,我们保持仅向量搜索(没有硬失败)。

这并不是"IR 理论完美",但它简单、快速,并且往往会提高真实笔记的召回率/精确率。如果以后想要更复杂,常见的下一步是倒数排名融合(RRF)或混合前的分数归一化(最小/最大或 z-score)。

配置:

agents: {
  defaults: {
    memorySearch: {
      query: {
        hybrid: {
          enabled: true,
          vectorWeight: 0.7,
          textWeight: 0.3,
          candidateMultiplier: 4
        }
      }
    }
  }
}

嵌入缓存

Moltbot 可以在 SQLite 中缓存块嵌入,这样重新索引和频繁更新(特别是会话记录)就不会重新嵌入未更改的文本。

配置:

agents: {
  defaults: {
    memorySearch: {
      cache: {
        enabled: true,
        maxEntries: 50000
      }
    }
  }
}

会话内存搜索(实验性)

您可以可选地索引会话记录并通过 memory_search 显示它们。这是一个实验性标志。

agents: {
  defaults: {
    memorySearch: {
      experimental: { sessionMemory: true },
      sources: ["memory", "sessions"]
    }
  }
}

注意:

  • 会话索引是可选的(默认关闭)。
  • 会话更新经过防抖处理,并在超过增量阈值后异步索引(尽力而为)。
  • memory_search 从不阻塞索引;在后台同步完成之前,结果可能稍微过时。
  • 结果仍然只包括片段;memory_get 仍然限于内存文件。
  • 会话索引按代理隔离(仅索引该代理的会话日志)。
  • 会话日志存在于磁盘上(~/.moltbot/agents/<agentId>/sessions/*.jsonl)。任何具有文件系统访问权限的进程/用户都可以读取它们,因此将磁盘访问视为信任边界。对于更严格的隔离,请在单独的 OS 用户或主机下运行代理。

增量阈值(显示默认值):

agents: {
  defaults: {
    memorySearch: {
      sync: {
        sessions: {
          deltaBytes: 100000,   // ~100 KB
          deltaMessages: 50     // JSONL lines
        }
      }
    }
  }
}

SQLite 向量加速(sqlite-vec)

当 sqlite-vec 扩展可用时,Moltbot 将嵌入存储在 SQLite 虚拟表(vec0)中,并在数据库中执行向量距离查询。这使搜索快速,而无需将每个嵌入加载到 JS 中。

配置(可选):

agents: {
  defaults: {
    memorySearch: {
      store: {
        vector: {
          enabled: true,
          extensionPath: "/path/to/sqlite-vec"
        }
      }
    }
  }
}

注意:

  • enabled 默认为 true;禁用时,搜索回退到存储嵌入的进程内余弦相似度。
  • 如果 sqlite-vec 扩展丢失或加载失败,Moltbot 会记录错误并继续使用 JS 回退(没有向量表)。
  • extensionPath 覆盖捆绑的 sqlite-vec 路径(对于自定义构建或非标准安装位置很有用)。

本地嵌入自动下载

  • 默认本地嵌入模型:hf:ggml-org/embeddinggemma-300M-GGUF/embeddinggemma-300M-Q8_0.gguf(约 0.6 GB)。
  • memorySearch.provider = "local" 时,node-llama-cpp 解析 modelPath;如果 GGUF 丢失,它会自动下载到缓存(或如果设置了 local.modelCacheDir),然后加载它。下载在重试时恢复。
  • 本地构建要求:运行 pnpm approve-builds,选择 node-llama-cpp,然后 pnpm rebuild node-llama-cpp
  • 回退:如果本地设置失败且 memorySearch.fallback = "openai",我们会自动切换到远程嵌入(openai/text-embedding-3-small,除非覆盖)并记录原因。

自定义 OpenAI 兼容端点示例

agents: {
  defaults: {
    memorySearch: {
      provider: "openai",
      model: "text-embedding-3-small",
      remote: {
        baseUrl: "https://api.example.com/v1/",
        apiKey: "YOUR_REMOTE_API_KEY",
        headers: {
          "X-Organization": "org-id",
          "X-Project": "project-id"
        }
      }
    }
  }
}

注意:

  • remote.* 优先于 models.providers.openai.*
  • remote.headers 与 OpenAI 标头合并;远程在键冲突时获胜。省略 remote.headers 以使用 OpenAI 默认值。