三步自建 AI 第二大脑:Khoj 本地部署与使用完整指南
【免费下载链接】khojYour AI second brain. Self-hostable. Get answers from the web or your docs. Build custom agents, schedule automations, do deep research. Turn any online or local LLM into your personal, autonomous AI (gpt, claude, gemini, llama, qwen, mistral). Get started - free.项目地址: https://gitcode.com/GitHub_Trending/kh/khoj
Khoj 是一款可自托管的开源 AI 知识助手,能对你的本地文档、笔记和代码做语义搜索与对话问答(RAG,检索增强生成),把散落在各处的文件变成一个问得出答案的个人知识库。这篇文章带你从安装、接数据源到定制 agent 和定时任务,完整跑通一遍。
Khoj 适合什么人:先看清三个典型痛点
在装任何东西之前,先对号入座一下。如果你遇到过下面任何一条,Khoj 就是为你这类场景设计的:
- 文件太多,找不到:PDF、Markdown、Word、org 笔记堆了几百个,关键词搜索总是差一点
- 问答靠脑子:同一个技术细节反复查、反复忘,没有地方沉淀
- 不想把数据交出去:文档涉及工作或个人隐私,不想上传到别人的云服务
Khoj 的做法是:在你自己的机器上起一个服务,把你的文档切成小块并生成向量嵌入(把文本变成可比较数学向量的技术),之后你用自然语言提问,它先检索最相关的片段,再交给大模型生成回答。全程数据留在内网,甚至可以完全离线运行。
3 步跑通本地 Khoj 实例
整个安装过程很短,官方支持 pip 和 Docker 两条路线,这里以 pip 为例(Docker 路线用仓库里的docker-compose.yml启动即可)。
第 1 步:安装服务
python -m pip install 'khoj[local]'第 2 步:启动服务
USE_EMBEDDED_DB="true" khoj --anonymous-mode--anonymous-mode免登录,适合单机单用户场景。首次启动会引导你创建管理员账号、选择可用的聊天模型。
第 3 步:打开网页
终端出现🌖 Khoj is ready to engage即就绪,浏览器访问http://localhost:42110进入 Web 应用:
如果后面想换模型或做高级配置,所有设置都在http://localhost:42110/server/admin管理面板里完成。
如何把你的笔记和代码接入 Khoj
装好只是骨架,喂数据才是关键。Khoj 提供了四种同步方式,按需求选:
| 方式 | 适合场景 | 说明 |
|---|---|---|
| Desktop / Obsidian / Emacs 客户端 | 有固定笔记目录 | 客户端持续监听文件夹,文件增删改自动重新索引 |
| Notion 同步 | 笔记在 Notion | 在 Web 应用里直接绑定 Notion 工作区 |
| 拖拽上传 | 临时问几个文件 | 在聊天框直接拖入 PDF、图片等 |
| GitHub 集成 | 想把代码库也纳入 | 指定仓库后把源码当作可搜索文档 |
同步完成后,Khoj 会用双编码器模型为每个文档块生成语义向量,之后所有搜索和问答都基于这些向量进行:
从语义搜索到文档问答:Khoj 是怎么回答你的
搜索用的是两阶段方案:双编码器先粗筛出最相关的文档块,再用更慢但更准的 cross-encoder 重排,兼顾速度和精度。所以你用"上次开会提到的那个缓存方案"这种模糊问法也能命中内容,而不是要求原文精确匹配。
问答则是典型 RAG 流程:
- 你的问题被转成语义向量,检索出最相关的笔记片段
- 片段 + 对话历史一起送进聊天模型
- 回答生成后会附上引用来源,方便你核对原文
两个实用技巧能让命中率明显提升:
- 查询过滤器:支持按词、日期、文件精确限定范围,例如
file:"meeting.org" dt>="2026-01-01" +"缓存",语法细节见 查询过滤器文档 - 斜杠命令:
/notes强制只基于你的笔记回答,/general只用模型通识回答,/code显式调用代码执行
进阶玩法:自定义 Agent 与定时研究任务
跑通搜索和聊天后,Khoj 还有几个容易被忽略的能力,适合"用深了"的阶段:
- 自定义 Agent:在管理面板里为每个 agent 单独设置人设提示词、专属聊天模型和工具组合,比如一个"只看产品文档、只回答架构问题"的角色
- 定时自动化:设定 cron 计划,Khoj 会定时执行你的研究查询,把结果以邮件形式发到收件箱——做周报摘要、行业动态速报很合适
- 代码执行:让 Khoj 生成并运行 Python 代码做数据分析、出图表,弥补大模型不擅长精确计算的短板
- 图像生成与语音:支持文生图和消息朗读,把知识库延伸成多模态助手
在线还是离线:聊天模型怎么选
Khoj 的模型层完全可插拔,两类方案按需搭配:
- 在线模型:在管理面板填入 OpenAI、Anthropic、Gemini 的 API key,注册对应的聊天模型即可,能力最强,但查询会发到对应服务商
- 离线模型:本地起一个 OpenAI 兼容端点(如 Ollama、llama.cpp server),把它的地址填进 AI Model API 配置,重启后模型自动出现。整机脱网也能用,隐私拉满,代价是对硬件有要求(建议 16GB 显存档级,最低 8GB 内存)
搜索模型同理:自托管默认带一套够用的本地搜索模型,想换多语言或更新的嵌入模型,在管理面板的 SearchModelConfig 里改配置并重建索引即可。更多细节见 官方部署文档。
总结一下:Khoj 的价值在于"数据不出内网 + 问答基于你自己的文档",安装十分钟能跑起来,接入笔记目录后收益才真正开始。不妨现在就装一个,把你的文档目录同步进去,问它一个你早就想不起来答案的问题试试;遇到问题或有功能想法,欢迎到项目仓库提 issue 或参与贡献。
【免费下载链接】khojYour AI second brain. Self-hostable. Get answers from the web or your docs. Build custom agents, schedule automations, do deep research. Turn any online or local LLM into your personal, autonomous AI (gpt, claude, gemini, llama, qwen, mistral). Get started - free.项目地址: https://gitcode.com/GitHub_Trending/kh/khoj
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考