保险条款看不懂，银行流水想让 AI 帮忙理一理，可这些文件一上传，就等于交给了别人的服务器。咱们今天聊的办法是：本地大模型 + 文件系统 MCP，让 AI 在您自己的电脑上直接读私人文件夹，数据不出门。内容参考了原作者的实际使用经验，小编也梳理了相关概念，方便您照着搭。
简单讲，光把大模型装在本地还不够。它如果碰不到您的文件，就还是个普通聊天机器人。要让它真正有用，得解决两件事：文件怎么送进对话，以及怎么让它自己去翻文件夹。
先搞清楚：本地模型怎么读到您的文件
第一步：选对运行工具（Runner）
Runner 就是加载并运行模型的那个软件，文件能不能送给模型、怎么送，都由它决定。原作者试过差不多十几个，最后常用的是 LM Studio，理由是上手容易，自带聊天框里的文档上传按钮。如果您用的工具没有这个功能，可以换成 Cherry Studio 或 AnythingLLM 这类本地 AI 工作台，再通过本地服务把模型接进去。
在 LM Studio 里，PDF、Word 和文本文件都能直接拖进对话。这里要先认识一个词：上下文窗口，说白了就是模型在一次对话里最多能“记住”多少文字。文件小，整份塞进去；文件太大，LM Studio 会只挑出和您问题相关的片段给模型。
第二步：文件夹用文件系统 MCP
单个文件拖进去没问题，但笔记往往散在一堆文件夹里。这时候要用“文件系统 MCP 服务器”。MCP 是给 AI 应用接工具的一套通用标准，文件系统这一个，作用就是让模型打开并读取您指定的文件夹，一次读好几个也行。文件多、不想一个个拖的时候，它几乎是必备的。
第三步：模型必须会“调用工具”
模型不会调用工具，就会凭感觉猜文件里写了什么，根本没去打开。LM Studio 会标出哪些模型支持工具调用。原作者用下来最稳的是 Qwen 3.5 9B，后来也常用基于 Qwen 3.5 架构的 Qwythos 9B v2，两个换着用。如果您的电脑带得动更大的 Qwen 模型，当然选更大的。另外，作者还写了一段系统提示词，要求模型只依据本地文件作答，并说明答案出自哪个文件，这个习惯值得抄。
| 环节 | 作用 | 原作者的做法 |
|---|---|---|
| 运行工具 | 加载模型、接收文件 | LM Studio；也可用 Cherry Studio、AnythingLLM |
| 单个文件 | 直接上传到对话 | 支持 PDF、Word、文本 |
| 整个文件夹 | 让模型自己翻文件 | 文件系统 MCP 服务器 |
| 模型 | 必须支持工具调用 | Qwen 3.5 9B、Qwythos 9B v2 |
为什么长期开放文件夹，比每次重新讲一遍强
普通聊天每次都是从零开始。想问“这个手术保险赔不赔”，就得先交代自己投的是哪份保险、贴上条款、说明情况，下周再问又得重来一遍。本地模型还没有云端产品那种长期记忆，这个毛病更明显。
可您反复打的那些内容，其实早就躺在保单 PDF 和就诊后的笔记里了。所以思路很直接：给它一个私密、固定的存放位置，让本地模型随时能进去查。
能问些什么：单靠聊天机器人答不了的问题
原作者喂给它的主要是健康和财务文档，加上个人笔记。文章里的截图用的是替换成设计、调研笔记的副本，不是真实隐私内容。大致有三类用法：
- 跨文档对照：比如拿保险条款去核对理赔单实际赔付了多少。这种活儿很少有人愿意开两个 PDF 并排看，让模型翻一整个文件夹就省事多了。
- 翻旧账找规律：笔记里常有“当时为什么换方案”“医生怎么说的”这类决定，事后只记得写过，不记得在哪。用文件系统工具可以不报文件名就把它找出来。
- 把旧材料整理成新东西：比如把症状和日期汇总成一份就诊前的简短说明。原作者认为这类任务不一定非得更大的模型，何况云端模型根本没见过这些文件，要让它们看到，就得上传这些您本来想保密的资料。
它依然像聊天机器人的地方
能读文件不等于每次都读对，原作者踩过的坑有这几个：
- 小模型爱“脑补”：有时不打开文件，直接按自己的想象回答。凡是带数字的答案，务必去核对它说出处的那个文件。
- 上下文有上限：文件夹太大、PDF 太长放不下，LM Studio 改为抽取片段时，偶尔会抽错段落。提问时带上您知道文件里有的关键词，会好一些。
- 扫描件读不了：整页都是图片的 PDF 没有文字可读，需要另外配 OCR（文字识别）。
云端大模型不是私人文件的解药
原作者自己订了两个 AI 订阅，结果最放心交给它重要文件的，是跑在自家硬件上的免费 9B 模型。速度确实比云端慢，不过这类整理文件的活没有死线。Qwen 的工具调用能力也够用，配合文件系统工具基本靠谱。
常见问题（FAQ）
本地大模型读文档，真的不会把数据传出去吗？
模型和文件都在您自己的电脑上运行，处理过程不需要联网上传。不过具体还取决于您装了哪些插件、开了哪些联网功能，建议自己检查一下。
9B 这种小模型够用吗？
原作者的体验是做文件问答基本够用，前提是模型支持工具调用。电脑配置高的话，建议试试更大的 Qwen 模型。
PDF 扫描件能让它读吗？
直接读不了。纯图片的页面没有文字，需要先用 OCR 转成文字再交给模型。
它给的数字能直接信吗？
不建议。让它在回答里注明出自哪个文件，再回去核对原文，尤其是金额、日期。
我只有一两个文件，也要装 MCP 吗？
不用。单个文件直接拖进 LM Studio 的对话就行，文件多、分散在各个文件夹时再考虑 MCP。
总结
家里有闲置旧笔记本的话，也可以改成全家共用的本地 AI 服务，思路见旧笔记本核显跑本地 AI，家人隐私文档不再上传云端。想让 AI 帮您处理私人文档又不想上传云端，思路是三件套：LM Studio 这类运行工具，支持工具调用的模型，再加上文件系统 MCP。速度慢一点，也得核对结果，但对没有死线的整理、查找类工作，已经足够实用。