前几天前司知识库崩了,Google 改了 NotebookLM 接口,本地数字员工直接断联。
于是我做了个轻量化本地知识库技能:local-rag。
一句话能装好
把这行发给你的智能体:
给你自己安装这个技能(skill):haoyiyin/local-rag
不用服务器,不用 API Key,文档丢进去就能语义搜索。
为什么做这个
人机协作是趋势,但知识断层数字员工不认识你的资料、敏感数据不敢上云、主流 RAG 太重。local-rag 走完全离线、轻量 CLI 路线,专为数字员工设计。
架构三层
scripts/rag.py CLI(ingest / ask / 集合管理)
Chroma PersistentClient(数据落盘本地,无服务进程)
embeddinggemma-300m(768维,本地推理,无 API Key)
Embedding 模型选了 embeddinggemma-300m,多语言、benchmark 在线、低配设备跑得动。首次下载约 300MB,之后全离线。
什么格式都能支持
覆盖 20+ 种格式:PDF、Word、PPT、Excel、CSV、HTML、JSON、YAML、EPUB、RTF、.msg 邮件、ipynb 等。三种特殊处理:
- 图像 PDF:pypdf 提不出文字时,自动 pymupdf 渲染 + OCR
- 图片:tesseract 中英文双语
- 音频:whisper base 转写
压缩包(zip/tar.gz/7z/rar)自动解压,逐文件提取文本。