在Windows中用LM Studio部署本地ai

在Windows中用LM Studio部署本地ai

部署方式:本地AI部署在用户的设备上,无需依赖网络连接;在线AI则通过互联网访问,由第三方提供商托管。

数据隐私:本地AI在用户的设备上处理数据,用户对数据有更高的控制权,隐私保护更好;在线AI的数据存储在云端,可能存在隐私风险。

1.安装LM Studio

打开官网:LM Studio - Local AI on your computer下载LM Studio

下载完后安装

69a1b23323e6c.png

建议安装c盘以外

69a1b2303b397.png

安装完成后运行

2.更改软件源

如果你有外网环境可跳过

vscode官网:Visual Studio Code - The open source AI code editor

先退出LM Studio

桌面右键LM Studio(打开文件所在位置)

69a1b22ec60d5.png

用vscode打开该文件夹

第一次打开需要信任

69a1b22dc57a1.png
69a1b22870b6f.png

搜索huggingface.co 替换为 hf-mirror.com

全部替换

69a1b22870b6f.png

等一会,文件全部自动保存

启动软件

69a1b2257bdc9.png

下载模型

找到模型并下载(不一定跟我一样)

69a1b22ea5fb6.png

3.运行模型

选择模型

69a1b2226b5ad.png

点击后加载完成就可以用了

4.远程调用

69a1af5b5cba7.png
69a1b222bb60d.png

加载模型

去里面创建token

69a1b2223356d.png

有公网用户直接IP:端口/nat转发

无公网用户用frp

解决国内运行1Panel安装脚本安装docker时报错的问题 2026-02-27
XTerminal — 一个实用的ssh工具 2026-02-28

评论区

© 2026 35240のBlog