用 LM Studio 在笔记本跑通第一个本地大模型(附手机连法)

为什么选 LM Studio

上篇聊过用 Ollama 跑模型,但它偏命令行,对不习惯终端的人不够友好。LM Studio 是个带图形界面的桌面程序,下载模型、聊天、起本地服务全在窗口里完成,适合想"先看见再上手"的人。本文带你从零跑通,并把它变成手机也能连的本地服务。

第一步:下载与安装

  • 到 lmstudio.ai 下载对应系统(Mac/Windows/Linux)的安装包,双击装好。
  • 打开后先不急着聊天,点左侧「My Models」,这是模型存放处。

第二步:拉一个能跑的模型

  • 点「Search」搜索 "qwen2.5-3b" 或 "llama-3.2-3b",3B 级别在普通笔记本上速度可接受。
  • 点下载,文件会存到本地(约 2–3 GB),下载完自动出现在列表里。
  • 回到「Chat」标签页,顶部模型下拉框选刚下载的模型,就能直接对话了。

第三步:起一个本地服务(让别的应用调用)

  • 切到「Developer」标签页,选好模型,点「Start Server」。
  • 默认地址是 http://localhost:1234/v1,它兼容 OpenAI 接口格式。
  • 任何支持自定义 API 地址的工具(如 Cherry Studio、Obsidian 插件)填这个地址 + 空 key,就能用本地模型。

第四步:让同一局域网下的手机也能连

  • 在 Developer 页把「Server Settings」里的绑定地址从 localhost 改成 0.0.0.0。
  • 查电脑局域网 IP(Mac 在终端跑 `ipconfig getifaddr en0`)。
  • 手机上把 API 地址填成 http://你的IP:1234/v1,即可在通勤时调用家里电脑的模型。

两个坑

第一,3B 模型会"一本正经胡说",重要信息务必核对。第二,绑 0.0.0.0 等于把模型暴露给整个局域网,只在自己家可信网络下这么做,别在公共 WiFi 开。

跑通这一套,你就有了一个不联网、不上传数据、随开随用的私有模型底座,后续接工作流都从这儿出发。

文章版权声明:除非注明,否则均为开源技术之家原创文章,转载或复制请以超链接形式并注明出处。

发表评论

快捷回复: 表情:
AddoilApplauseBadlaughBombCoffeeFabulousFacepalmFecesFrownHeyhaInsidiousKeepFightingNoProbPigHeadShockedSinistersmileSlapSocialSweatTolaughWatermelonWittyWowYeahYellowdog
评论列表 (暂无评论,6人围观)

还没有评论,来说两句吧...

目录[+]

取消
微信二维码
微信二维码
支付宝二维码