8GB 的 MacBook Air 离线跑能看能听能说的 AI,LFM3-Omni 实测

8GB 内存的 MacBook Air 能跑多模态本地模型吗?小编实测 Liquid AI 的 LFM3-Omni,一个 2.2B 小模型,不到 3GB 内存,离线能看、能听、能说话。

8GB 内存的 MacBook Air,能不能离线跑一个既能看图、又能听、还能开口说话的 AI?小编看到的实测结果是:能,而且一个 2.2B 参数的 LFM3-Omni 模型只占不到 3GB 内存。

通常,会看图的本地模型只能用文字回答;想让它听、让它说,往往要再装别的模型,在 8GB 的机器上叠三四个基本不现实。Liquid AI 的 LFM3-Omni 在 10 月 27 日发布,一个模型同时负责听、看、说,输入可以是图片、视频和语音,输出可以是文字或语音。下面把这位网友的体验整理一遍。

一个小模型,顶四个工具

LFM3-Omni 的卖点,是把语音识别、视觉模型、聊天机器人和文字转语音(TTS)四样东西合成一个端侧模型。分开跑就得把四套权重塞进 macOS 本来就紧张的 8GB 内存,每套还要各自的运行环境和额外开销。

这个模型是开放权重,采用 Liquid AI 的 LFM Open License v1.0。这位网友先试了 Ollama,但它只能让模型看和听,没法让它开口。要让模型用语音回答,他用了 GitHub 开发者 overment 做的免费社区应用 lfm3-mega-demo。

这个应用通过苹果的 MLX 框架运行 Liquid 官方的 8 位版本,在 Mac 上开一个网页,带有对话、观看、转写和朗读几个标签。他还特意核对了应用有没有自己改采样设置,结果是它沿用了模型配置里的贪心解码,和官方模型卡一致。

运行时他关掉了 Wi-Fi,所有测试都在离线状态下完成。活动监视器显示应用进程峰值占用 2968MB,其中约 2814MB 在 Mac 统一内存的 GPU 一侧,也就是模型本体。看、听、说一应俱全,还剩约 5GB 内存给其他程序用。

看图:认得出东西,表格数字先别交给它

视觉测试很直接:在“观看”标签里拿东西对着摄像头。

测试对象模型的判断结果
DualSense 手柄黑色 PlayStation 手柄,方向键、摇杆、中间标志都说对了准确
TKL 键盘识别为机械键盘,但说成“全尺寸”基本准确,尺寸有误
电脑配件价格表(5 个问题)读对了数字,但算术出错,第一次对 1 题,第二次 0 题不合格

这张价格表里的 5 月、11 月价格是他编的整数,每个问题只有一个明确答案。模型把显卡“降价”说成了“涨价”,百分比也算在了错误的行上。

不过问题不在“眼睛”,而在设计取舍:LFM3 的文本、视觉、音频和全能(Omni)几个版本里,只有 Omni 不能在回答前先推理。同样的表格和提示词,换成它的视觉版 LFM3-VL-2B,用 llama.cpp 以 4 位精度运行(精度只有 Omni 的一半),会逐行思考,5 题全对。

听和说:比看图更出彩

Demonstrating transcription capabilities of LFM3-Omni.

公平评价的话,更值得看的是转写和听力,朗读紧随其后。“朗读”标签支持 19 种语言和口音,一秒出头就能开口,生成速度比播放速度还快,用来听草稿朗读很方便。

转写更快:在“转写”标签录了 5 秒音频,0.72 秒就原文返回,第一个字 0.35 秒就出来了。语音备忘、采访和会议录音,音频全程不离开 Mac,光这一点就值得跑它。想对比纯转写的玩法,可以看看 Whisper 加 Qwen 把语音备忘变待办。

对着摄像头时,它还能把眼前的东西口头描述出来,准确度不错,这正是 Liquid 提到的车载助手类场景。能听指令、能看画面、能开口描述的小模型,用在家庭助手和智能家居(尤其是安防相关)里潜力不小。

小结

8GB 的 MacBook Air 平时很难进本地 AI 的话题圈,小编也不会第一个想到它。但 LFM3-Omni 证明,这台机器可以在不到 3GB 内存、不联网的前提下听、看、说。如果您关心 8GB 级别设备能跑什么,也可以看看 8GB 显存跑 27B 本地大模型的 Bonsai 实测。模型信息可参考 Liquid AI 官方网站。

常见问题(FAQ)

8GB 内存的 Mac 真的够用吗?

按实测,应用进程峰值约 2968MB,系统还剩约 5GB。跑这一个模型没问题,但别同时再开很吃内存的程序。

为什么 Ollama 里它不会说话?

Ollama 目前只能让这个模型看和听,没法输出语音。要语音回答,这位网友用了 lfm3-mega-demo 这个社区应用。

它适合处理表格和数字吗?

目前不太行。Omni 版本不能先推理再回答,算数容易出错;同系列的视觉版 LFM3-VL-2B 有推理,表现要好得多。

真的全程不联网吗?

是的,所有测试都关掉了 Wi-Fi,数据不出这台 Mac,适合处理语音备忘、采访这类隐私内容。

模型可以商用吗?

它是开放权重,遵循 Liquid AI 的 LFM Open License v1.0,商用前请先去看一下具体条款。