回头看看自己平时到底问了 Gemini 什么,您可能会发现:大部分只是反复出现的几类查资料需求。小编的 Google AI Plus 订阅就是这样,订阅里还有别的福利,比如更多的 Gemini 和 NotebookLM 额度,但那些属于实验性应用的特殊用法。
结论先说:一个本地 4B 小模型,只要能联网搜索、有足够的上下文空间读取搜到的内容,就能覆盖小编大部分日常研究需求。关键是“联网”这两个字。
大家对本地模型的印象通常是不擅长这类事:小模型只知道训练时学到的东西,问到最近的事,要么乱猜,要么编造。但有网络的模型就是另一回事了。
桌面和手机上的 Gemma 4 E4B
它和 Gemini 的渊源比体量更深
Gemma 4 E4B 是 Google DeepMind 两款边缘模型中较大的那个,专为手机和笔记本设计。小编在电脑上用 LM Studio 运行 Q4_K_M(4 位量化)版本,RTX 3070 的 8GB 显存跑起来毫无卡顿;iPhone 16 上则用免费的本地模型应用 Noema。名字里的 E 是“有效参数”的意思:总共约 80 亿参数,运行时只激活约 45 亿,所以才能装进手机。
据 Google 介绍,Gemma 4 与 Gemini 3 出自同一批研究,E2B 和 E4B 还是 Gemini Nano 4(安卓手机端侧模型)的基础。它的上下文窗口(一次对话能容纳的文本量)也和 AI Plus 套餐里的 Gemini 一样,都是 128K token。
让 Gemma 适合做研究的,是原生的工具调用:它很会判断什么时候该用外部工具(比如联网或访问文件系统),也能处理工具返回的结果。小编觉得这是它最强的一项,Google 自己的基准也佐证:在测试多步骤工具任务的 Tau2 上,E4B 得分 42.2%,上一代 Gemma 3 27B 只有 16.2%。官方资料见 Gemma 官网。
联网搜索才是主力
Gemma 自己知道的内容截止到 2025 年初
Google 标注 Gemma 4 的知识截止时间是 2025 年 1 月,距今将近两年;模型 2026 年 4 月才发布,所以那之后的事,在它眼里基本不存在。小编欣赏的是它很负责:关掉联网问它最新信息,它通常会老实说不知道,所以不太容易乱编。
Gemini 也有同样的截止问题,Google 同样靠搜索来解决。Deep Research 会浏览数百个网站来写报告,本质上也是模型在调用搜索工具,只不过规模远大于我们大多数电脑,而且不像本地运行时那样把控制权交到用户手里。
在 LM Studio 里,联网搜索通过 MCP 实现,小编用了两个:Brave Search MCP 负责找页面,但只返回链接和简短摘要;另一个抓取工具负责打开完整页面,让模型把整篇读完。第二个很重要,因为摘要只有一两行,模型只看摘要回答,常常把事实安到错的页面上。另一款自托管 AI 聊天应用 Open WebUI 就因此遇到过很多次,所以现在只引用模型真正打开过的页面。
Noema 把这一切都做进了应用里:联网搜索就是一个开关,不必改 JSON 配置文件,查询会通过开发者在 SearXNG(一个汇总其他搜索引擎结果的开源搜索引擎)上运行的私密、不留日志的中转,也就不像 Brave Search MCP 那样需要 API 密钥。
小编还想补充:让模型能访问文件系统,或者至少用支持上传文档的本地应用,对研究类任务也很理想,可以把预先整理好的资料交给它。LM Studio 和 Noema 都支持上传文档,小编还在 LM Studio 里装了文件系统 MCP 来做批量文件处理。
试着给它挑错
一定要做压力测试
即便联网,本地模型也不一定总能可靠地找到对的来源,有的甚至根本不用工具。小编手上大约一半的本地模型,不能放心地交给它们去联网、抓取或访问文件。
小编的测试主要围绕 4B 模型凭记忆答不出的问题。只靠 Gemma E4B 的训练数据,它始终会承认没有最新信息;一旦联网,每次都能给出正确信息。至于信息呈现得好不好,则取决于您的系统提示词和参数设置。Noema 有一点小编很喜欢:它会在联网回答的末尾附上可点击的引用。
当然也不完美。社区在 Berkeley 函数调用排行榜(衡量模型调用工具能力的榜单)上跑过的结果显示,原版 E4B 在“知道什么时候不该调用工具”一项得 84 分(满分 100),但在需要连续多轮搜索才能得出答案的网络类别里只有 7 分。这和小编的体验一致:该搜的时候几乎总会去搜,但搜一次就直接作答,不会继续深挖。所以一次问一个明确的问题,效果会更好。
让研究留在本地,还不用花钱
免费版 Gemini 每月仍包含五份 Deep Research 报告,大概也就是小编需要这么大阵仗的频率。其余情况,一个 4B 模型加上搜索和足够的上下文,小编觉得够用了。对本地模型的更多私人文档用法,可以看本地大模型读私人文档:LM Studio 加 MCP 实测。
常见问题(FAQ)
4B 的小模型真能做研究吗?
联网搜索并读取完整页面的前提下,可以覆盖多数日常查资料需求,但深度多轮研究还是它的短板。
需要什么配置?
小编在 8GB 显存的 RTX 3070 上用 Q4_K_M 量化跑得很顺,iPhone 16 上也能用 Noema 运行。
为什么还要配一个抓取工具?
搜索工具只返回链接和短摘要,抓取工具才能打开整页,避免模型把事实安错到别的页面上。
不联网会怎样?
Gemma 的知识截止到 2025 年 1 月,问到更新的事,它通常会承认不知道。
还需要订阅 Gemini 吗?
要做大规模的 Deep Research 才有必要,免费版每月就有五份报告,其他需求本地模型就够了。