用云端 AI 总担心数据去了哪儿?小编的做法是:把几类最敏感的活交给自己电脑上的本地大模型,数据完全不出门。聊天机器人能收到的信息比搜索引擎多得多,文字、图片、文档甚至视频都能吃进去,而搜索引擎只知道您在找什么。这里分享小编交给本地模型的四件事,您也可以参考。
1. 校对自己在电脑上打的每一段字
这几年许多云端语法检查服务都接入了 AI,注册时往往在不知不觉中同意了用您的文字训练模型。更麻烦的是它们常以浏览器扩展形式出现在每个输入框里,您纠个标点,它也在默默“学习”。小编在写科技文章之前,曾在英国一家大型零售银行做金融犯罪合规,按银行治理标准,这类软件跟键盘记录器差不多。
最让小编不安的是邮件:里面有姓名、数字和一对一的保密对话。所以小编现在用开源工具 Writing Tools 校对,把文字转给 RTX 4070 Ti Super 上的 Qwen3.6-35B-A3B,而不是发到不受自己控制的服务器。
2. 让智能体维护电脑
现在很流行让智能体及其子智能体包办电脑维护这类琐事,不少博主也在用 Antigravity 或 Claude Code 演示。小编的顾虑是,这些应用会向服务商回传多少个人电脑上的信息。但让 AI 一句话就把应用更新到最新,确实省事。所以小编在自己的显卡上通过 Hermes Agent 运行 Nemotron 3.5 Bolt:任务能完成,它还能记下对这台电脑的了解并在每次会话中加载,全程不出自己的网络。
3. 检查文档和截图里有没有个人信息

小编常用截图展示工作,但截图也容易漏出个人信息:Windows 设置左上角的邮箱、快捷设置里的 Wi-Fi 名、文件夹视图里的文件名。问题是,用云端模型检查原始截图,等于把想保密的内容先上传了一遍。会计、金融、营销、法律等行业处理客户名称和账户信息时也有类似顾虑。小编的办法是用 llama.cpp 提供的本地模型再过一遍,常用的是带视觉文件的 Qwen3.6-35B-A3B。
4. 整理自己的财务账单

报税季一向让小编头疼:账户间转账会出现两次(一进一出),一堆相似交易里又容易漏掉几笔,而会计要求每一行都对上并解释清楚。银行流水又是最暴露隐私的文件,有余额、账号和每个收款对象,最不想放到云端。本地模型可以在显卡上解析、核对多个账户的交易,配对转账,并标出对不上的条目,让小编自己补注。
顺带的好处:省钱
如果您手头有闲置的旧笔记本,还可以让核显承担这类任务,详见旧笔记本核显跑本地 AI,家人隐私文档不再上传云端。本地方案不仅保护隐私,还能少依赖按月收费的云端服务,把额度留给真正需要的任务。想了解工具,可以看 llama.cpp 项目主页,也可以参考 电子前哨基金会(EFF)的隐私指南。
常见问题(FAQ)
本地模型一定比云端安全吗?
数据不出自己的设备,这一点更放心;但电脑本身的安全仍然要自己管好。
需要多好的显卡?
小编用的是 RTX 4070 Ti Super,小任务用更小的模型也能跑,按需选择即可。
账单整理结果可以直接信吗?
不建议,它会标出对不上的条目,最后还是要您自己核对。
先从哪件事开始试?
邮件校对最简单,装个 Writing Tools 接上本地模型就行。