智能体记忆系统 Hindsight 部署指南:从 60 秒本地试用到云上生产
【免费下载链接】hindsightHindsight: Agent Memory That Learns项目地址: https://gitcode.com/GitHub_Trending/hindsight2/hindsight
Hindsight 是开源智能体记忆系统,通过 retain(存储)、recall(检索)、reflect(反思)三个操作让 AI 智能体跨会话持续学习。这篇 Hindsight 部署指南带你完成四件事:60 秒跑通第一个实例、按场景选定部署形态、把服务接进自己的代码、上生产前逐项核对配置清单。
⚡ 60 秒跑通第一个 Hindsight 实例
前提是一台装有 Docker 的机器和一个 OpenAI API key,其他 25+ 提供商通过HINDSIGHT_API_LLM_PROVIDER切换。执行下面这条命令:
export OPENAI_API_KEY=sk-xxx docker run -it --pull always --name hindsight --restart unless-stopped \ -p 8888:8888 -p 9999:9999 \ -e HINDSIGHT_API_LLM_API_KEY=$OPENAI_API_KEY \ -v hindsight-data:/home/hindsight/.pg0 \ ghcr.io/vectorize-io/hindsight:latest容器自带 pg0 嵌入式数据库,hindsight-data卷负责持久化。服务就绪后用这条命令当场验证:
curl http://localhost:8888/health返回正常后记下两个地址:
- API:http://localhost:8888
- 管理界面:http://localhost:9999
部署形态怎么选:场景 × 投入 × 成本
用这张表定形态,再进入对应小节:
| 形态 | 适用场景 | 首次投入 | 持续成本 |
|---|---|---|---|
| Python 嵌入式 | 本地开发验证、单用户原型 | 一条pip install,约 5 分钟 | 仅 LLM API 费用 |
| Docker 单容器(内置 pg0) | 个人与小队功能验证 | 一条docker run | 1 台机器 + LLM 费用 |
| Compose + 外部 PostgreSQL | 小型生产、多用户 | 约 20 分钟 | 应用 + 数据库各 1 台 |
| Kubernetes + Helm | 企业级高可用 | 1 小时起,需 K8s 集群 | 集群资源 |
| 托管云(Hindsight Cloud) | 免运维团队 | 注册即用 | 按用量计费 |
本地嵌入式部署:进程内起服务,不装数据库
执行pip install hindsight-all -U,然后在你的 Python 进程内直接拉起服务:
import os from hindsight import HindsightServer, HindsightClient with HindsightServer( llm_provider="openai", llm_model="gpt-5-mini", llm_api_key=os.environ["OPENAI_API_KEY"], ) as server: client = HindsightClient(base_url=server.url) client.retain(bank_id="my-bank", content="Alice works at Google")with块退出时服务自动销毁,适合脚本和测试。Intel Mac 改装hindsight-all-slim。想要常驻进程时执行pip install hindsight-api,然后运行hindsight-api命令,服务监听 http://localhost:8888。
🐳 容器化部署:内置 pg0 与外部 PostgreSQL
上面 60 秒命令用的是内置 pg0;多用户或长期跑时,把数据库换成独立 PostgreSQL,配置模板在 docker/docker-compose/external-pg/docker-compose.yaml:
export OPENAI_API_KEY=sk-xxx export HINDSIGHT_DB_PASSWORD=choose-a-password export HINDSIGHT_API_LLM_API_KEY=$OPENAI_API_KEY cd docker/docker-compose/external-pg docker compose up -d关键参数如下:
| 环境变量 | 作用 |
|---|---|
HINDSIGHT_DB_PASSWORD | PostgreSQL 密码,缺失时 compose 直接报错退出 |
HINDSIGHT_API_LLM_API_KEY | LLM 密钥,必填 |
HINDSIGHT_API_LLM_PROVIDER | openai/anthropic/gemini/ollama等 |
HINDSIGHT_API_LLM_BASE_URL | 接 OpenAI 兼容端点(LM Studio、vLLM 等) |
端口与单机版一致:API 在 8888,管理界面在 9999。
云端部署:Kubernetes Helm 与托管服务
有 K8s 集群时直接用官方 Chart:
helm install hindsight oci://ghcr.io/vectorize-io/charts/hindsight \ --set api.llm.provider=openai \ --set api.llm.apiKey=sk-xxx \ --set postgresql.enabled=true副本数、镜像、环境变量都在 helm/hindsight/values.yaml 里改。想彻底免运维,把客户端的base_url指向https://api.hindsight.vectorize.io并配上 API key,跳过整套部署。
接进你的代码:SDK 最小示例
先装客户端,三选一:
- Python:
pip install hindsight-client -U - Node.js / TypeScript:
npm install @vectorize-io/hindsight-client - Go:
go get github.com/vectorize-io/hindsight/hindsight-clients/go
Python 端的最小闭环如下:
from hindsight_client import Hindsight client = Hindsight(base_url="http://localhost:8888") client.retain(bank_id="my-bank", content="Alice works at Google as a software engineer") client.recall(bank_id="my-bank", query="What does Alice do?") client.reflect(bank_id="my-bank", query="Tell me about Alice")不想显式调用三个操作时,装hindsight-litellm后用wrap_openai()包住现有 LLM 客户端,召回和存储自动完成。
上生产前的检查清单
逐项打勾再发布:
- 数据库换成外部 PostgreSQL,设
HINDSIGHT_API_DATABASE_URL - 日志级别设为
HINDSIGHT_API_LOG_LEVEL=info,开发期才用debug - 按 CPU 核数设
HINDSIGHT_API_WORKERS - 后台任务用
HINDSIGHT_API_WORKER_ENABLED=true,并发上限由HINDSIGHT_API_WORKER_MAX_SLOTS控制 - 开追踪:
HINDSIGHT_API_OTEL_TRACES_ENABLED=true - 抓取 Prometheus 指标
http://localhost:8888/metrics,仪表板模板在 monitoring/grafana/ - 探活脚本接入
curl http://localhost:8888/health - 备份:外部 PG 定期
pg_dump;内置 pg0 对hindsight-data数据卷做快照
排障速查表
| 现象 | 可能原因 | 处理办法 |
|---|---|---|
| 8888 端口不通 | 端口未映射或被占用 | docker ps核对映射,改用其他-p端口 |
| 请求 LLM 报 401 | 密钥没注入容器 | 重设HINDSIGHT_API_LLM_API_KEY后重建容器 |
| compose 启动即退出 | 缺必填变量 | 先export HINDSIGHT_DB_PASSWORD和HINDSIGHT_API_LLM_API_KEY再up |
| Intel Mac 安装嵌入式版失败 | pg0 不支持该架构 | 改装hindsight-all-slim |
| recall 慢或结果不全 | 后台整合未完成 | 等 consolidation 完成,或调大 worker 并发上限 |
| 9999 管理界面打不开 | 容器尚未就绪 | docker logs hindsight看启动进度 |
部署只占 Hindsight 价值的一小部分,跑通之后把 retain、recall、reflect 接进你的智能体才是重点。
- 完整文档与安装选项:hindsight-docs/docs/
- 全套 Docker 组合配置(外部 PG、S3、TEI 等):docker/docker-compose/
- Helm Chart 源码:helm/hindsight/
【免费下载链接】hindsightHindsight: Agent Memory That Learns项目地址: https://gitcode.com/GitHub_Trending/hindsight2/hindsight
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考