用 LM Studio 在笔记本跑通第一个本地大模型(附手机连法)
为什么选 LM Studio
上篇聊过用 Ollama 跑模型,但它偏命令行,对不习惯终端的人不够友好。LM Studio 是个带图形界面的桌面程序,下载模型、聊天、起本地服务全在窗口里完成,适合想"先看见再上手"的人。本文带你从零跑通,并把它变成手机也能连的本地服务。
第一步:下载与安装
- 到 lmstudio.ai 下载对应系统(Mac/Windows/Linux)的安装包,双击装好。
- 打开后先不急着聊天,点左侧「My Models」,这是模型存放处。
第二步:拉一个能跑的模型
- 点「Search」搜索 "qwen2.5-3b" 或 "llama-3.2-3b",3B 级别在普通笔记本上速度可接受。
- 点下载,文件会存到本地(约 2–3 GB),下载完自动出现在列表里。
- 回到「Chat」标签页,顶部模型下拉框选刚下载的模型,就能直接对话了。
第三步:起一个本地服务(让别的应用调用)
- 切到「Developer」标签页,选好模型,点「Start Server」。
- 默认地址是 http://localhost:1234/v1,它兼容 OpenAI 接口格式。
- 任何支持自定义 API 地址的工具(如 Cherry Studio、Obsidian 插件)填这个地址 + 空 key,就能用本地模型。
第四步:让同一局域网下的手机也能连
- 在 Developer 页把「Server Settings」里的绑定地址从 localhost 改成 0.0.0.0。
- 查电脑局域网 IP(Mac 在终端跑 `ipconfig getifaddr en0`)。
- 手机上把 API 地址填成 http://你的IP:1234/v1,即可在通勤时调用家里电脑的模型。
两个坑
第一,3B 模型会"一本正经胡说",重要信息务必核对。第二,绑 0.0.0.0 等于把模型暴露给整个局域网,只在自己家可信网络下这么做,别在公共 WiFi 开。
跑通这一套,你就有了一个不联网、不上传数据、随开随用的私有模型底座,后续接工作流都从这儿出发。
文章版权声明:除非注明,否则均为开源技术之家原创文章,转载或复制请以超链接形式并注明出处。



还没有评论,来说两句吧...