346 lines
11 KiB
Markdown
346 lines
11 KiB
Markdown
# PowerMem 记忆组件集成指南
|
||
|
||
## 简介
|
||
|
||
[PowerMem](https://www.powermem.ai/) 是由 OceanBase 开源的 Agent 记忆组件,通过本地 LLM 进行记忆总结和智能检索,为 AI 代理提供高效的记忆管理功能。
|
||
|
||
费用说明:PowerMem 本身开源免费,实际费用取决于您选择的 LLM 和数据库:
|
||
- 使用 SQLite + 免费 LLM(如智谱 glm-4-flash)= **完全免费**
|
||
- 使用云端 LLM 或云端数据库 = 按对应服务收费
|
||
|
||
> 💡 **最佳性能提示**:PowerMem 配合 OceanBase 使用可实现最大性能释放,SQLite 仅建议在资源不足的情况下使用。
|
||
|
||
- **GitHub**: https://github.com/oceanbase/powermem
|
||
- **官网**: https://www.powermem.ai/
|
||
- **使用示例**: https://github.com/oceanbase/powermem/tree/main/examples
|
||
|
||
## 功能特性
|
||
|
||
- **本地总结**:通过 LLM 在本地进行记忆总结和提取
|
||
- **用户画像**:通过 `UserMemory` 自动提取用户信息(姓名、职业、兴趣等),持续更新用户画像
|
||
- **智能遗忘**:基于艾宾浩斯遗忘曲线,自动"遗忘"过时噪声信息
|
||
- **多种存储后端**:支持 OceanBase(推荐,最佳性能)、SeekDB(推荐,AI应用存储一体)、PostgreSQL、SQLite(轻量备选)
|
||
- **多种 LLM 支持**:通义千问、智谱(glm-4-flash 免费)、OpenAI 等
|
||
- **智能检索**:基于向量搜索的语义检索能力
|
||
- **私有部署**:完全支持本地私有化部署
|
||
- **异步操作**:高效的异步记忆管理
|
||
|
||
## 安装
|
||
|
||
PowerMem 已添加到项目依赖中,如果需要手动安装:
|
||
|
||
```bash
|
||
pip install powermem
|
||
```
|
||
|
||
## 配置说明
|
||
|
||
### 基础配置
|
||
|
||
在 `config.yaml` 中配置 PowerMem:
|
||
|
||
```yaml
|
||
selected_module:
|
||
Memory: powermem
|
||
|
||
Memory:
|
||
powermem:
|
||
type: powermem
|
||
# 是否启用用户画像功能
|
||
# 用户画像支持: oceanbase、seekdb、sqlite (powermem 0.3.0+)
|
||
enable_user_profile: true
|
||
|
||
# ========== LLM 配置 ==========
|
||
llm:
|
||
provider: openai # 可选: qwen, openai, zhipu 等
|
||
config:
|
||
api_key: 你的LLM API密钥
|
||
model: qwen-plus
|
||
# openai_base_url: https://api.openai.com/v1 # 可选,自定义服务地址
|
||
|
||
# ========== Embedding 配置 ==========
|
||
embedder:
|
||
provider: openai # 可选: qwen, openai 等
|
||
config:
|
||
api_key: 你的嵌入模型API密钥
|
||
model: text-embedding-v4
|
||
openai_base_url: https://dashscope.aliyuncs.com/compatible-mode/v1
|
||
# embedding_dims: 1024 # 向量维度,非1536时需配置
|
||
|
||
# ========== Database 配置 ==========
|
||
vector_store:
|
||
provider: sqlite # 可选: oceanbase(推荐), seekdb(推荐), postgres, sqlite(轻量)
|
||
config: {} # SQLite 无需额外配置
|
||
```
|
||
|
||
### 配置参数详解
|
||
|
||
#### LLM 配置
|
||
|
||
| 参数 | 说明 | 可选值 |
|
||
|------|------|--------|
|
||
| `llm.provider` | LLM 提供商 | `qwen`, `openai`, `zhipu` 等 |
|
||
| `llm.config.api_key` | API 密钥 | - |
|
||
| `llm.config.model` | 模型名称 | 根据提供商选择 |
|
||
| `llm.config.openai_base_url` | 自定义服务地址(可选) | - |
|
||
|
||
#### Embedding 配置
|
||
|
||
| 参数 | 说明 | 可选值 |
|
||
|------|------|--------|
|
||
| `embedder.provider` | 嵌入模型提供商 | `qwen`, `openai` 等 |
|
||
| `embedder.config.api_key` | API 密钥 | - |
|
||
| `embedder.config.model` | 模型名称 | 根据提供商选择 |
|
||
| `embedder.config.openai_base_url` | 自定义服务地址(可选) | - |
|
||
|
||
#### Database 配置
|
||
|
||
| 参数 | 说明 | 可选值 |
|
||
|------|------|--------|
|
||
| `vector_store.provider` | 存储后端类型 | `oceanbase`(推荐), `seekdb`(推荐), `postgres`, `sqlite`(轻量) |
|
||
| `vector_store.config` | 数据库连接配置 | 根据 provider 设置 |
|
||
|
||
### 记忆模式说明
|
||
|
||
PowerMem 支持两种记忆模式:
|
||
|
||
| 模式 | 配置 | 功能 | 存储要求 |
|
||
|------|------|------|----------|
|
||
| **普通记忆** | `enable_user_profile: false` | 对话记忆存储与检索 | 支持所有数据库 |
|
||
| **用户画像** | `enable_user_profile: true` | 记忆 + 自动提取用户画像 | oceanbase、seekdb、sqlite |
|
||
|
||
> 📌 **版本说明**:PowerMem 0.3.0+ 版本,用户画像功能支持 OceanBase、SeekDB、SQLite 三种存储后端。
|
||
|
||
### 使用通义千问(推荐)
|
||
|
||
1. 访问 [阿里云百炼平台](https://bailian.console.aliyun.com/) 注册账号
|
||
2. 在 [API Key 管理](https://bailian.console.aliyun.com/?apiKey=1#/api-key) 页面获取 API 密钥
|
||
3. 配置如下:
|
||
|
||
```yaml
|
||
Memory:
|
||
powermem:
|
||
type: powermem
|
||
enable_user_profile: true
|
||
llm:
|
||
provider: qwen
|
||
config:
|
||
api_key: sk-xxxxxxxxxxxxxxxx
|
||
model: qwen-plus
|
||
embedder:
|
||
provider: openai
|
||
config:
|
||
api_key: sk-xxxxxxxxxxxxxxxx
|
||
model: text-embedding-v4
|
||
openai_base_url: https://dashscope.aliyuncs.com/compatible-mode/v1
|
||
vector_store:
|
||
provider: sqlite
|
||
config: {}
|
||
```
|
||
|
||
### 使用智谱免费 LLM(完全免费方案)
|
||
|
||
智谱提供免费的 glm-4-flash 模型,配合 SQLite 可实现完全免费使用:
|
||
|
||
1. 访问 [智谱AI开放平台](https://bigmodel.cn/) 注册账号
|
||
2. 在 [API Keys](https://bigmodel.cn/usercenter/proj-mgmt/apikeys) 页面获取 API 密钥
|
||
3. 配置如下:
|
||
|
||
```yaml
|
||
Memory:
|
||
powermem:
|
||
type: powermem
|
||
enable_user_profile: true
|
||
llm:
|
||
provider: openai # 使用 openai 兼容模式
|
||
config:
|
||
api_key: xxxxxxxxxxxxxxxx.xxxxxxxxxxxxxxxx
|
||
model: glm-4-flash
|
||
openai_base_url: https://open.bigmodel.cn/api/paas/v4/
|
||
embedder:
|
||
provider: openai
|
||
config:
|
||
api_key: xxxxxxxxxxxxxxxx.xxxxxxxxxxxxxxxx
|
||
model: embedding-3
|
||
openai_base_url: https://open.bigmodel.cn/api/paas/v4/
|
||
vector_store:
|
||
provider: sqlite
|
||
config: {}
|
||
```
|
||
|
||
### 使用 OpenAI
|
||
|
||
```yaml
|
||
Memory:
|
||
powermem:
|
||
type: powermem
|
||
enable_user_profile: true
|
||
llm:
|
||
provider: openai
|
||
config:
|
||
api_key: sk-xxxxxxxxxxxxxxxx
|
||
model: gpt-4o-mini
|
||
openai_base_url: https://api.openai.com/v1
|
||
embedder:
|
||
provider: openai
|
||
config:
|
||
api_key: sk-xxxxxxxxxxxxxxxx
|
||
model: text-embedding-3-small
|
||
openai_base_url: https://api.openai.com/v1
|
||
vector_store:
|
||
provider: sqlite
|
||
config: {}
|
||
```
|
||
|
||
### 使用 OceanBase(最佳性能方案)
|
||
|
||
OceanBase 是 PowerMem 的最佳搭档,可实现最大性能释放:
|
||
|
||
1. 部署 OceanBase 数据库(支持开源本地部署或使用云服务)
|
||
- 开源部署:https://github.com/oceanbase/oceanbase
|
||
- 云服务:https://www.oceanbase.com/
|
||
2. 配置如下:
|
||
|
||
```yaml
|
||
Memory:
|
||
powermem:
|
||
type: powermem
|
||
enable_user_profile: true
|
||
llm:
|
||
provider: qwen
|
||
config:
|
||
api_key: sk-xxxxxxxxxxxxxxxx
|
||
model: qwen-plus
|
||
embedder:
|
||
provider: openai
|
||
config:
|
||
api_key: sk-xxxxxxxxxxxxxxxx
|
||
model: text-embedding-v4
|
||
openai_base_url: https://dashscope.aliyuncs.com/compatible-mode/v1
|
||
vector_store:
|
||
provider: oceanbase
|
||
config:
|
||
host: 127.0.0.1
|
||
port: 2881
|
||
user: root@test
|
||
password: your_password
|
||
db_name: powermem
|
||
collection_name: memories # 默认值
|
||
embedding_model_dims: 1536 # 嵌入向量维度,必需参数
|
||
```
|
||
|
||
## 设备记忆隔离
|
||
|
||
PowerMem 会自动使用设备 ID(`device_id`)作为 `user_id` 进行记忆隔离。这意味着:
|
||
|
||
- 每个设备拥有独立的记忆空间
|
||
- 不同设备之间的记忆完全隔离
|
||
- 同一设备的多次对话可以共享记忆上下文
|
||
|
||
## 用户画像(UserMemory)
|
||
|
||
PowerMem 提供 `UserMemory` 类,可自动从对话中提取用户画像信息。
|
||
|
||
> 📌 **版本说明**:PowerMem 0.3.0+ 版本,用户画像功能支持 OceanBase、SeekDB、SQLite 三种存储后端。
|
||
|
||
### 启用用户画像
|
||
|
||
在配置中设置 `enable_user_profile: true` 即可启用:
|
||
|
||
```yaml
|
||
Memory:
|
||
powermem:
|
||
type: powermem
|
||
enable_user_profile: true # 启用用户画像
|
||
llm:
|
||
provider: qwen
|
||
config:
|
||
api_key: sk-xxxxxxxxxxxxxxxx
|
||
model: qwen-plus
|
||
embedder:
|
||
provider: openai
|
||
config:
|
||
api_key: sk-xxxxxxxxxxxxxxxx
|
||
model: text-embedding-v4
|
||
openai_base_url: https://dashscope.aliyuncs.com/compatible-mode/v1
|
||
vector_store:
|
||
provider: sqlite # 用户画像支持: oceanbase、seekdb、sqlite
|
||
config: {}
|
||
```
|
||
|
||
### 用户画像能力
|
||
|
||
| 能力 | 说明 |
|
||
|------|------|
|
||
| **信息提取** | 自动从对话中提取姓名、年龄、职业、兴趣等 |
|
||
| **持续更新** | 随着对话进行,不断完善用户画像 |
|
||
| **画像检索** | 将用户画像与记忆搜索结合,提升检索相关性 |
|
||
| **智能遗忘** | 基于艾宾浩斯遗忘曲线,淡化过时信息 |
|
||
|
||
### 工作原理
|
||
|
||
启用用户画像后,小智在查询记忆时会自动返回:
|
||
1. **用户画像**:用户的基本信息、兴趣爱好等
|
||
2. **相关记忆**:与当前对话相关的历史记忆
|
||
|
||
> ✅ **版本说明**:PowerMem 0.3.0+ 版本,用户画像功能支持 OceanBase、SeekDB、SQLite 三种存储后端。
|
||
|
||
## 与其他记忆组件的对比
|
||
|
||
| 特性 | PowerMem | mem0ai | mem_local_short |
|
||
|------|----------|--------|-----------------|
|
||
| 工作方式 | 本地总结 | 云端接口 | 本地总结 |
|
||
| 存储位置 | 本地/云端DB | 云端 | 本地YAML |
|
||
| 费用 | 取决于LLM和DB | 1000次/月免费 | 完全免费 |
|
||
| 智能检索 | ✅ 向量搜索 | ✅ 向量搜索 | ❌ 全量返回 |
|
||
| 用户画像 | ✅ UserMemory | ❌ | ❌ |
|
||
| 智能遗忘 | ✅ 遗忘曲线 | ❌ | ❌ |
|
||
| 私有部署 | ✅ 支持 | ❌ 仅云端 | ✅ 支持 |
|
||
| 数据库支持 | OceanBase(推荐)/SeekDB/PostgreSQL/SQLite | - | YAML 文件 |
|
||
|
||
## 常见问题
|
||
|
||
### 1. API 密钥错误
|
||
|
||
如果出现 `API key is required` 错误,请检查:
|
||
- `llm_api_key` 和 `embedding_api_key` 是否正确填写
|
||
- API 密钥是否有效
|
||
|
||
### 2. 模型不存在
|
||
|
||
如果出现模型不存在的错误,请确认:
|
||
- `llm_model` 和 `embedding_model` 名称是否正确
|
||
- 对应的模型服务是否已开通
|
||
|
||
### 3. 连接超时
|
||
|
||
如果出现连接超时,可以尝试:
|
||
- 检查网络连接
|
||
- 如果使用代理,配置 `llm_base_url` 和 `embedding_base_url`
|
||
|
||
## 测试验证
|
||
|
||
可以在虚拟环境中测试 PowerMem 是否正常工作:
|
||
|
||
```bash
|
||
# 激活虚拟环境
|
||
source .venv/bin/activate
|
||
|
||
# 测试 PowerMem 导入
|
||
python -c "from powermem import AsyncMemory; print('PowerMem 导入成功')"
|
||
|
||
# 测试 UserMemory 导入(用户画像功能)
|
||
python -c "from powermem import UserMemory; print('UserMemory 导入成功')"
|
||
```
|
||
|
||
## 更多资源
|
||
|
||
- [PowerMem 官方文档](https://www.powermem.ai/)
|
||
- [PowerMem GitHub 仓库](https://github.com/oceanbase/powermem)
|
||
- [PowerMem 使用示例](https://github.com/oceanbase/powermem/tree/main/examples)
|
||
- [OceanBase 官网](https://www.oceanbase.com/)
|
||
- [OceanBase GitHub](https://github.com/oceanbase/oceanbase)
|
||
- [SeekDB GitHub](https://github.com/oceanbase/seekdb)(AI原生搜索数据库)
|
||
- [阿里云百炼平台](https://bailian.console.aliyun.com/)
|
||
|