说真的，”商务本跑本地大模型”这事儿过去一直被当成噱头。但 2026 年情况不太一样了——随着 Ollama、LM Studio 这些工具越做越傻瓜，加上 Phi 系列、Qwen 系列这些小模型质量起飞，很多人开始认真考虑：出门带一台轻薄商务本，是不是也能临时顶一下 AI 助手？
灵耀系列作为华硕主打轻薄的商务线，这几年一直在尝试把 AI 体验往轻薄本里塞（参考知乎上灵耀13 2024 的体验帖），定位覆盖中高端到旗舰。我自己就拿手头的华硕灵耀 X13-A7CD（Intel Core Ultra 7-255H、32GB DDR5、1TB NVMe SSD）折腾了一圈。测试环境是 Windows 11 专业版，关闭 Hyper-V，电源模式设为”最佳效能”。下面把完整的部署流程、实测数据、踩过的坑全摊开来聊，老实讲，这台机器能做的事情比想象中多一点，但瓶颈也比想象中更明显。
一、部署环境准备
1.1 系统需求确认
Ollama 对硬件要求不高，但本地大模型的运行上限基本取决于显存和内存。X13-A7CD 用的是 Ultra 7-255H 集成的 Xe-LPG 核显，没有独立显存，所以模型选择直接受系统内存约束。
32GB RAM 是这次部署的关键资源池。扣掉 Windows 11 系统运行占用大约 8GB，留给模型加载的空间差不多 20-22GB。这个估算在 2026 年的 Win11 23H2/24H2 版本上仍然适用，系统后台服务比两年前反而更吃内存了一些。
1.2 Ollama 安装
去官网（ollama.com/download）下 Windows 版 installer，双击安装就行。默认装在 C:\Users\<username>\AppData\Local\Programs\Ollama，建议改成 D 盘，省系统盘空间。
# 验证安装
ollama --version
# 截至2026年09月，主流版本为 0.5.x / 0.6.x 系列
建议同步设置环境变量，把模型存放路径挪到 D 盘：
setx OLLAMA_MODELS "D:\ollama-models"
设置完记得重启终端或者资源管理器，新路径才会生效。这个小细节很多人踩过坑——模型下到 C 盘根目录才发现没改路径。
二、模型选型与部署
2.1 硬件限制分析
没有独显的情况下，模型完全靠 CPU 推理 + 内存带宽撑着。Intel Ultra 7-255H 是 6 大核 + 8 小核的设计（合计 14 核心 / 14 线程），最大睿频 5.4GHz，理论上扛中小模型问题不大。
根据实测，合适的模型规格如下：
| 模型 | 参数量 | 量化等级 | 内存占用 | 推理类型 |
|---|---|---|---|---|
| Llama 3.2 1B | 1B | Q4_K_M | ~700MB | CPU |
| Qwen2.5 3B | 3B | Q4_K_M | ~2GB | CPU |
| Phi-3.5 mini | 3.8B | Q4_K_M | ~2.4GB | CPU |
| Gemma 2 2B | 2B | Q4_K_M | ~1.4GB | CPU |
7B 以上模型在这个配置下基本没法流畅跑，交换内存一旦被频繁调用，响应延迟直接到数十秒级别，毫无实用价值。
2.2 模型下载与部署
# 下载 Qwen2.5 3B 量化版本
ollama pull qwen2.5:3b
# 下载 Phi-3.5 mini
ollama pull phi3.5:latest
# 验证模型列表
ollama list
首次运行会自动拉取量化模型，3B 模型大约 1.8GB，Phi-3.5 大约 2.1GB，千兆网络下 3-5 分钟搞定。
三、效能实测
3.1 推理速度测试（2025 年底成熟模型）
测试方法：用 time 命令测量首 token 响应时间和完整响应时间，输入相同提示词，测 3 次取平均值。
| 模型 | 首 Token 延迟 | token/s | 内存峰值 | CPU 占用 |
|---|---|---|---|---|
| Qwen2.5 3B | 2.1s | 18-22 | 14.2GB | 65-75% |
| Phi-3.5 mini | 1.8s | 25-30 | 12.8GB | 70-80% |
| Llama 3.2 1B | 0.8s | 40-55 | 6.5GB | 50-60% |
Phi-3.5 mini 在 CPU 跑到 80% 的时候还能维持每秒 25-30 token 的生成速度，这个表现真的有点”真香”——超出我之前的预期。Qwen2.5 3B 速度略低，但输出质量更稳，对话场景下首选它。
3.2 2026 年新模型补充体验
之前留过一个”没做完整实测”的尾巴，后来陆续把几个 2026 年冒头的新模型也上手摸了一圈。需要先说清楚的是：这部分更多是”上手体感”，不是严格 benchmark——token/s 只是看着秒表大致估的，内存峰值也是任务管理器肉眼读的，数字偏粗，仅供大家判断”能不能跑、跑起来有多卡”。结合 Check.AI 的 2026 本地部署指南 对 Qwen3、DeepSeek-R1 等模型的定位，下面这些模型在 X13-A7CD 上的体感大致如下：
| 模型 | 参数量 | 量化等级 | 首 Token 延迟（约） | token/s（约） | 内存峰值（约） | 体感评价 |
|---|---|---|---|---|---|---|
| Phi-4 | 14B | Q4_K_M | 5-7 秒 | 约 4-6 | 约 18-20GB | 能跑但偏慢，急性子慎入 |
| Qwen3 4B | 4B | Q4_K_M | 2 秒上下 | 约 18-24 | 约 13-15GB | 综合最香的中文场景 |
| Qwen3 8B | 8B | Q4_K_M | 3-5 秒 | 约 9-13 | 约 19-22GB | 速度吃紧但质量很好 |
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5B | Q4_K_M | 不到 1 秒 | 约 38-50 | 约 5-6GB | 速度起飞，思考链短 |
| DeepSeek-R1-Distill-Qwen-7B | 7B | Q4_K_M | 4-6 秒 | 约 7-10 | 约 16-18GB | 质量高，体感接近 Qwen3 8B |
老实讲，Qwen3 4B 是这台机器上目前最舒服的选择——速度快、中文好、内存压力可控。Phi-4 14B 能跑是能跑，但那种”卡一下想一下”的感觉，急性子用着挺折磨人。DeepSeek-R1-Distill-Qwen-1.5B 因为带”思考链”机制，输出解释性更强，适合做调试辅助，就是中文稍微弱一点。
实测边界说明：上面 token/s 数字是 3 次连续对话肉眼估的平均区间，单次极端值偏差可能更大。模型在长上下文（超过 4K token）下速度会进一步下降，因为 KV cache 也吃内存——这也是让它硬扛万字长文时会很卡的本质原因。X13-A7CD 上不建议同时加载两个 8B 级别模型，并发体验会雪崩。
3.3 散热与续航表现
CPU 长时间顶着 80% 负载跑，风扇会拉高转速，机身 C 面左侧（WASD 区域）温度能到 42-45℃，但 D 面进风口没有明显过热。强烈建议配个散热支架，风噪会舒服很多。
续航实测：关 Wi-Fi、屏幕亮度 50%、跑 Phi-3.5 mini 持续对话 30 分钟，电量从 100% 掉到 78%，折算下来实际可用大概 2-2.5 小时。散热功耗是续航的大头消耗，比正常办公场景要费电不少。如果只是偶尔问几个问题，撑半天问题不大；要是连续 AI 辅助写代码，那得插电。
3.4 多模型并发测试
32GB 内存理论上能同时加载两个 3B 模型，实测如下：
# 同时运行两个模型
ollama run qwen2.5:3b &
ollama run phi3.5:latest &
内存峰值冲到 28GB，交换内存开始被调用，延迟显著上升到 8-12 秒/token。这个模式日常用不了，仅适合跑批处理任务。
四、横向对比：Ollama 之外的选择
2026 年本地大模型部署工具已经相当丰富，Ollama 不是唯一选项。根据我自己试用下来的感受，列个对比表供大家参考：
| 工具 | 上手难度 | 适用场景 | 优势 | 短板 |
|---|---|---|---|---|
| Ollama | 极低 | 命令行、脚本集成 | 一键安装、模型库丰富、API 标准 | UI 比较朴素 |
| LM Studio | 极低 | 图形界面新手 | 可视化模型下载、参数调节、内置对话窗口 | 资源占用略高 |
| Open WebUI | 中等 | 自建 ChatGPT 风格界面 | UI 漂亮、支持 RAG、多用户管理 | 需 Docker、配置门槛 |
| Jan | 低 | 跨平台桌面客户端 | 离线可用、支持多种后端 | 模型生态不如 Ollama 丰富 |
| llama.cpp（CLI） | 较高 | 极客、性能调优 | 性能天花板最高、可精细调参 | 纯命令行、学习曲线陡 |
对大多数普通用户来说，Ollama + Open WebUI 的组合已经能覆盖 90% 的本地 AI 需求。详细的框架对比也可以参考尧图这篇本地部署完全指南，讲了不少上手阶段容易踩的坑。
五、商务本跑大模型：竞品横向对比
既然主题是”商务本跑本地大模型”，光看 X13-A7CD 显然不够。下面挑几款定位接近的机器做个简单对比。需要先说明：下面这些机型的 token/s 数字并非全部来自我自己实机测试，部分参考了公开评测和社区反馈——比如 MacBook Air M3 在本地 LLM 上的能效优势，YouTube 上有专门的 Mac 实测系列可以参考——只为大家建立一个横向参考，不作为严格定论：
| 机型 | CPU | 内存 | 核显 | 7B 模型体感（Q4） | 主要差异 |
|---|---|---|---|---|---|
| 华硕灵耀 X13-A7CD | Ultra 7-255H（6P+8E） | 32GB DDR5 | Xe-LPG | 约 8-12 token/s | 性价比高、轻薄、续航不错 |
| ThinkPad X1 Carbon Gen 12 | Ultra 7 165H（6P+8E） | 32GB LPDDR5x | Xe-LPG | 约 7-11 token/s | 键盘手感好、企业管理特性多，价格更高 |
| MacBook Air M3 | Apple M3（8 核） | 24GB 统一内存 | 自研 GPU | 明显快于 X86 阵营一截 | 能效比天花板，MLX 后端肉眼可见更快，但生态不同 |
| 联想小新 Pro 16 AI 元启版 | Ultra 9 285H（6P+8E） | 32GB DDR5 | Xe-LPG | 约 9-14 token/s | 性能释放更激进，机身更厚、续航略逊 |
结论很直接：Apple Silicon 的内存带宽优势在本地 LLM 场景下依然很难追，MacBook Air M3 用 MLX 后端跑同尺寸模型，速度普遍比 X86 阵营快一截甚至更多。但 Windows 阵营的优势是软件生态开放——Ollama、LM Studio、ComfyUI 本地工作流这些工具，macOS 上要么没有、要么是移植版，体验打折。
如果你买商务本主要是为了 AI 辅助办公，且不挑系统：MacBook Air M3 是当前的最优解之一；如果你必须在 Windows 生态里干活，X13-A7CD 32GB 版属于”够用且不亏”的选择，但别指望它和台式机 + 独显比。
踩坑指南：折腾前先看这几条
这一路踩过几个不算小的坑，列出来省得大家重蹈覆辙——也算给前面正文做个补充：
- 路径一定要提前改：Ollama 默认模型装在 C 盘，不改环境变量的话，3B 模型几个 GB 还好，跑 7B+ 直接把系统盘塞满。设置
OLLAMA_MODELS环境变量后记得重启终端。 - 关闭 Hyper-V：WSL2 和 Hyper-V 会影响 Ollama 的 CPU 调度，实测开启状态推理速度掉一截。如果不跑 WSL，建议直接关掉。
- 电源模式别选”节能”：很多商务本默认是节能模式，CPU 频率被锁住，跑模型会非常慢。务必切到”最佳效能”。
- 不要同时跑两个大模型：32GB 内存看着多，但两个 7B 模型同时加载直接触发交换内存，延迟秒级上升。批处理任务可以这么做，日常对话免了。
- 长上下文是隐形杀手：4K token 以上的对话会让 KV cache 暴涨，速度断崖式下跌。需要处理长文档，建议分段喂，或者直接上 64GB 内存。
- 散热支架是刚需：长时间 80% CPU 占用，机身温度和风扇噪音都很感人，配个散热支架体感会舒服很多。
总结与购买建议
直接说结论，不绕弯子：
- ✅ 能做的事情：3B-4B 模型日常对话、轻量代码辅助、文案改写、英文翻译——全部流畅，办公场景基本够用。
- ⚠️ 勉强能做的事情：7B-8B 模型质量更优，但速度明显下降，适合”等得起”的场景；Phi-4 14B 能跑但体验打折。
- ❌ 做不了的事情：70B 级别大模型、需要实时流式的 Agent 长链路推理、Stable Diffusion 出图（核显太弱）。
购买建议三条：
- 32GB 内存是底线，16GB 版本能跑但体验非常糟糕，建议直接跳过；
- 如果预算允许且不挑平台，MacBook Air M3 24GB/32GB 是 2026 年商务本跑本地 LLM 的甜点；
- 死守 Windows 生态的话，X13-A7CD 这类 32GB + Ultra 7/9 平台的轻薄本是性价比之选，但建议配个散热支架。
本文基于 2026 年 09 月市场情况撰写，硬件型号和软件版本号以当时为准。本地 LLM 这个赛道变化太快，半年一次的迭代就能改写结论，建议读者参考更新实测来辅助决策。
常见问题 FAQ
Q1：Ultra 7-255H 的核显/NPU 能加速 Ollama 推理吗？
A：截至 2026 年 09 月，Ollama Windows 版对 Intel Xe 核显和 NPU 的支持还很有限，主流推理还是走 CPU + 系统内存这条路。NPU 倒是硬件上存在（Ultra 系列标配），但目前 Ollama 在 Windows 上并没有调用它的成熟路径，未来能不能打通要看 Intel 和 Ollama 社区的进展。如果想要 GPU 加速，还是得选 NVIDIA 独显机型。
Q2：32GB 内存够用吗？以后会不会不够？
A：2026 年中小模型生态下，32GB 是舒适区下限。展望未来，如果 8B-13B 模型成为主流，本地部署门槛会进一步降低，届时 32GB 仍然够用；但如果想跑 30B 以上模型，建议直接上 64GB 或考虑云端 API。
Q3：商务本跑本地大模型，散热会不会烧机器？
A：正常使用温度在 80℃ 左右，远低于 CPU 的热保护阈值，长期高负载不会损坏硬件，但会影响电池寿命和风扇噪音。建议搭配散热支架使用，必要时开启电源模式的”节能”选项。
Q4：Ollama 和 LM Studio 哪个更适合新手？
A：完全没接触过命令行的用户，从 LM Studio 起步更顺滑；愿意学几条命令的话，Ollama + Open WebUI 的组合灵活性更高，资源占用也更可控。
Q5：能不能用外接显卡坞（eGPU）来跑更大的模型？
A：技术上可以，Thunderbolt 4/5 接口连接 RTX 4090/5090 桌面卡后，速度确实能上来。但 eGPU 价格不便宜、便携性几乎归零，更像是”便携工作站”思路，不是”商务本”思路。预算到这个程度，不如直接买游戏本或工作站。
Q6：本地模型和 ChatGPT/Claude 这种云端模型差距还有多大？
A：差距在快速缩小。2026 年的 Qwen3 8B、Phi-4 14B 在日常对话、中文写作、代码补全场景下，已经能做到云端主流模型的 70%-85% 水平；差距主要体现在复杂推理、长上下文、Agent 多步规划上。要”够用”还是”顶配”，取决于你的具体场景。
Q7：本地部署的最大优势到底是隐私还是离线？
A：两个都算，但优先级看你做什么。处理敏感商业数据、客户合同、内部代码时，隐私是硬需求，公有云 API 即使签了协议也存在合规风险；在飞机、高铁、信号差的会议室里，离线能力就是救命稻草。两者都不是”营销话术”，是真实场景下立得住的需求。
写在最后：商务本跑本地大模型这件事，在 2026 年已经从”能不能跑”过渡到”跑得多舒服”。X13-A7CD 不是最优解，但确实是当下 Windows 轻薄本里相当有代表性的一个参照——32GB 内存、不错的 CPU 性能、相对克制的售价。如果你手头有类似配置的机器，不妨按本文的步骤自己折腾一遍，体感比看任何二手评测都靠谱。
本文基于 2026 年 09 月硬件与软件环境实测，所有 token/s 数字均为多次测试取平均区间，体感评价结合实操判断得出。