。从头开始利用RAG、Agent、LangChain等技术搭建本地知识库-本地模型准备：通过Ollama部署模型，需要详细部署教程的朋友可以参照我上一条《2步轻松部署本地AI大模型》的笔记进行设置。.1. 安装AnythingLLM：访问AnythingLLM官网，下载并安装适合你系统版本的程序并运行。(AnythingLLM 是一个完全私密、可在无网络状态下运行的开源、可定制的桌面文档聊天机器人，支持网站抓取、聊天记录等功能，可用于构建智能知识库，同类产品还有MaxKB).2. 初始设置：- 在设置列表中选择Ollama，并配置Ollama Base URL（默认为http: 127.0.0.1:11434）- 选择已部署的模型，我这里用的是llama3（也可选qwen等其他模型）- 设置Token context window，默认为4096，此参数将影响处理的速度和质量.3. 知识库构建：- 向”My Documents”添加你的本地文档或在线链接- 将所需文档添加到指定工作区，完成后即可基于这些文档与知识库进行交互对话.这样，你就可以根据上述步骤构建自己的本地知识库并开始使用了
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
快速搭建本地 AI 知识库方案。从头开始利用RAG、Agent、LangChain等技术搭建本地知识库-本地模型准备：通过Ollama部署模型，需要详细部署教程的朋友可以参照我上一条《2步轻松部署本地AI大模型》的笔记进行设置。.1. 安装AnythingLLM：访问AnythingLLM官网，下载并安装适合你系统版本的程序并运行。(AnythingLLM 是一个完全私密、可在无网络状态下运行的开源、可定制的桌面文档聊天机器人，网站抓取、聊天记录等功能，可用于构建智能知识库，同类产品还有MaxKB).2. 初始设置：- 在设置列表中选择Ollama，并配置Ollama Base URL（默认为http: 127.0.0.1:11434）- 选择已部署的模型，我这里用的是llama3（也可选qwen等其他模型）- 设置Token context window，默认为4096，此参数将影响处理的速度和质量.3. 知识库构建：- 向”My Documents”添加你的本地文档或在线链接- 将所需文档添加到指定工作区，完成后即可基于这些文档与知识库进行交互对话.这样，你就可以根据上述步骤构建自己的本地知识库并开始使用了#RAG #产品经理 #AI产品经理 #AI #大模型