想在手机上随时问大模型、读长文档、整理会议记录,又不想把内容全发给云端大厂?您可以试试这个办法:用 LM Studio 的 LM Link 功能,加上免费的 iPhone 应用 Locally,让手机直接调用家里电脑上的大模型。小编实测下来,26B 的模型在手机上用着跟普通聊天应用差不多,区别只是“服务器”在卧室里。
小编的电脑是 RTX 4070 Ti Super,能跑 Qwen3.6-35B-A3B、Gemma 4 26B A4B 这类模型。但 Gemma 4 26B 的 4 位量化版光权重就约 14.4GB,手机肯定装不下。所以思路是:模型留在电脑上跑,手机只当“窗口”。
LM Studio 跑模型,LM Link 负责把它送到手机
数据留在自己买的硬件上
LM Studio 是个能下载并运行本地模型的软件,小编用的是 v0.4.28,里面带有 LM Link 功能。它相当于电脑与其他设备之间的桥梁,底层基于 Tailscale(一种组网工具),连接是端到端加密的,电脑也不会暴露在公网上。
开启只要三步:
- 注册并登录免费的 LM Studio 账号;
- 在侧边栏打开 LM Link,按提示操作;
- 在 iPhone 上登录同一账号,设备就会出现在 LM Link 页面里。
小编用得最多的是 Google 官方的 4 位 Gemma 4 26B A4B。它是 QAT 版本(量化感知训练,简单讲就是训练时就考虑了压缩,Google 称质量接近原本的 bfloat16 16 位格式)。这个模型能完整放进显存,LM Studio 下载前就会显示“Full GPU Offload Possible”标识;在小编习惯的 16K 上下文下,30 层都能放在 GPU 上。
手机不用跑模型,也能用 26B
Wi-Fi 还是流量都不影响
手机端只需要一个应用:Locally,App Store 里 116MB。用 LM Studio 账号登录后,电脑和里面的 Gemma 4 就会出现在列表里,点开就能聊,用起来跟其他聊天应用没区别。
最让小编意外的是,不在同一个网络也能用,这是单独用 llama.cpp 服务器做不到的。小编关掉 iPhone 的 Wi-Fi,改用移动数据,照样能访问桌面上的 Gemma,而且路由器没开任何端口。要用 llama-server 实现同样效果,就得自己搭 VPN 或暴露到公网,都挺费功夫。
要注意的几点限制

| 限制 | 说明 |
|---|---|
| 电脑必须开机且不休眠 | Locally 只是模型的“窗口”,Windows 一休眠,手机就断开连接。 |
| LM Link 暂时免费 | 目前是预览功能,LM Studio 计划在正式上线时加入付费档。 |
| 仅支持 iOS | Locally 只有 iPhone 版,安卓用户暂时只能继续用 llama.cpp。 |
小结:好模型不必困在桌面上
整体来说,这套方案说到做到:推理由卧室里的显卡完成,您口袋里的手机就能用上手头最强的模型,也不用再把不想上云的文档交给 ChatGPT 或 Gemini。想了解更多,可以看 LM Studio 官网 和 Tailscale 官方文档。
常见问题(FAQ)
手机上要装什么应用?
只需要 iOS 版的 Locally,用 LM Studio 账号登录即可。
出门在外也能用吗?
可以,用移动数据也行,前提是家里电脑开着、没休眠。
需要在路由器上开端口吗?
不需要,小编没开任何端口就连通了。
安卓手机能用吗?
Locally 目前只支持 iOS,安卓可以先用 llama.cpp 方案。