智能体记忆系统 Hindsight 部署指南:从 60 秒本地试用到云上生产
2026/9/6 15:16:22 网站建设 项目流程

智能体记忆系统 Hindsight 部署指南:从 60 秒本地试用到云上生产

【免费下载链接】hindsightHindsight: Agent Memory That Learns项目地址: https://gitcode.com/GitHub_Trending/hindsight2/hindsight

Hindsight 是开源智能体记忆系统,通过 retain(存储)、recall(检索)、reflect(反思)三个操作让 AI 智能体跨会话持续学习。这篇 Hindsight 部署指南带你完成四件事:60 秒跑通第一个实例、按场景选定部署形态、把服务接进自己的代码、上生产前逐项核对配置清单。

⚡ 60 秒跑通第一个 Hindsight 实例

前提是一台装有 Docker 的机器和一个 OpenAI API key,其他 25+ 提供商通过HINDSIGHT_API_LLM_PROVIDER切换。执行下面这条命令:

export OPENAI_API_KEY=sk-xxx docker run -it --pull always --name hindsight --restart unless-stopped \ -p 8888:8888 -p 9999:9999 \ -e HINDSIGHT_API_LLM_API_KEY=$OPENAI_API_KEY \ -v hindsight-data:/home/hindsight/.pg0 \ ghcr.io/vectorize-io/hindsight:latest

容器自带 pg0 嵌入式数据库,hindsight-data卷负责持久化。服务就绪后用这条命令当场验证:

curl http://localhost:8888/health

返回正常后记下两个地址:

  • API:http://localhost:8888
  • 管理界面:http://localhost:9999

部署形态怎么选:场景 × 投入 × 成本

用这张表定形态,再进入对应小节:

形态适用场景首次投入持续成本
Python 嵌入式本地开发验证、单用户原型一条pip install,约 5 分钟仅 LLM API 费用
Docker 单容器(内置 pg0)个人与小队功能验证一条docker run1 台机器 + LLM 费用
Compose + 外部 PostgreSQL小型生产、多用户约 20 分钟应用 + 数据库各 1 台
Kubernetes + Helm企业级高可用1 小时起,需 K8s 集群集群资源
托管云(Hindsight Cloud)免运维团队注册即用按用量计费

本地嵌入式部署:进程内起服务,不装数据库

执行pip install hindsight-all -U,然后在你的 Python 进程内直接拉起服务:

import os from hindsight import HindsightServer, HindsightClient with HindsightServer( llm_provider="openai", llm_model="gpt-5-mini", llm_api_key=os.environ["OPENAI_API_KEY"], ) as server: client = HindsightClient(base_url=server.url) client.retain(bank_id="my-bank", content="Alice works at Google")

with块退出时服务自动销毁,适合脚本和测试。Intel Mac 改装hindsight-all-slim。想要常驻进程时执行pip install hindsight-api,然后运行hindsight-api命令,服务监听 http://localhost:8888。

🐳 容器化部署:内置 pg0 与外部 PostgreSQL

上面 60 秒命令用的是内置 pg0;多用户或长期跑时,把数据库换成独立 PostgreSQL,配置模板在 docker/docker-compose/external-pg/docker-compose.yaml:

export OPENAI_API_KEY=sk-xxx export HINDSIGHT_DB_PASSWORD=choose-a-password export HINDSIGHT_API_LLM_API_KEY=$OPENAI_API_KEY cd docker/docker-compose/external-pg docker compose up -d

关键参数如下:

环境变量作用
HINDSIGHT_DB_PASSWORDPostgreSQL 密码,缺失时 compose 直接报错退出
HINDSIGHT_API_LLM_API_KEYLLM 密钥,必填
HINDSIGHT_API_LLM_PROVIDERopenai/anthropic/gemini/ollama
HINDSIGHT_API_LLM_BASE_URL接 OpenAI 兼容端点(LM Studio、vLLM 等)

端口与单机版一致:API 在 8888,管理界面在 9999。

云端部署:Kubernetes Helm 与托管服务

有 K8s 集群时直接用官方 Chart:

helm install hindsight oci://ghcr.io/vectorize-io/charts/hindsight \ --set api.llm.provider=openai \ --set api.llm.apiKey=sk-xxx \ --set postgresql.enabled=true

副本数、镜像、环境变量都在 helm/hindsight/values.yaml 里改。想彻底免运维,把客户端的base_url指向https://api.hindsight.vectorize.io并配上 API key,跳过整套部署。

接进你的代码:SDK 最小示例

先装客户端,三选一:

  • Python:pip install hindsight-client -U
  • Node.js / TypeScript:npm install @vectorize-io/hindsight-client
  • Go:go get github.com/vectorize-io/hindsight/hindsight-clients/go

Python 端的最小闭环如下:

from hindsight_client import Hindsight client = Hindsight(base_url="http://localhost:8888") client.retain(bank_id="my-bank", content="Alice works at Google as a software engineer") client.recall(bank_id="my-bank", query="What does Alice do?") client.reflect(bank_id="my-bank", query="Tell me about Alice")

不想显式调用三个操作时,装hindsight-litellm后用wrap_openai()包住现有 LLM 客户端,召回和存储自动完成。

上生产前的检查清单

逐项打勾再发布:

  • 数据库换成外部 PostgreSQL,设HINDSIGHT_API_DATABASE_URL
  • 日志级别设为HINDSIGHT_API_LOG_LEVEL=info,开发期才用debug
  • 按 CPU 核数设HINDSIGHT_API_WORKERS
  • 后台任务用HINDSIGHT_API_WORKER_ENABLED=true,并发上限由HINDSIGHT_API_WORKER_MAX_SLOTS控制
  • 开追踪:HINDSIGHT_API_OTEL_TRACES_ENABLED=true
  • 抓取 Prometheus 指标http://localhost:8888/metrics,仪表板模板在 monitoring/grafana/
  • 探活脚本接入curl http://localhost:8888/health
  • 备份:外部 PG 定期pg_dump;内置 pg0 对hindsight-data数据卷做快照

排障速查表

现象可能原因处理办法
8888 端口不通端口未映射或被占用docker ps核对映射,改用其他-p端口
请求 LLM 报 401密钥没注入容器重设HINDSIGHT_API_LLM_API_KEY后重建容器
compose 启动即退出缺必填变量export HINDSIGHT_DB_PASSWORDHINDSIGHT_API_LLM_API_KEYup
Intel Mac 安装嵌入式版失败pg0 不支持该架构改装hindsight-all-slim
recall 慢或结果不全后台整合未完成等 consolidation 完成,或调大 worker 并发上限
9999 管理界面打不开容器尚未就绪docker logs hindsight看启动进度

部署只占 Hindsight 价值的一小部分,跑通之后把 retain、recall、reflect 接进你的智能体才是重点。

  • 完整文档与安装选项:hindsight-docs/docs/
  • 全套 Docker 组合配置(外部 PG、S3、TEI 等):docker/docker-compose/
  • Helm Chart 源码:helm/hindsight/

【免费下载链接】hindsightHindsight: Agent Memory That Learns项目地址: https://gitcode.com/GitHub_Trending/hindsight2/hindsight

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询