LMStudio 简介

LMStudio 是一款大模型整合包工具,在一个统一的程序之中就可以完成大模型下载、配置和使用,这大大简化了我们玩大模型的前期准备工作,是我等懒人玩大模型的必备工具。你可以把 LMStudio 看做是 linux 服务器上的宝塔面板,python 界的 anaconda。

该工具不开源,但是可以免费使用。最大的好处是没有显卡也能跑,内存够大就行,官网说最低要求 16G 内存,不过经过我的测试,在一台拥有 24G 内存的老式台式机上安装之后,居然一个模型都跑不起来,我个人推荐至少要配置 32G 内存。

LMStudio 支持的硬件配置如下:

Apple Silicon Mac (M1/M2/M3) with macOS 13.6 or newer;

Windows / Linux PC with a processor that supports AVX2 (typically newer PCs);

16GB+ of RAM is recommended. For PCs, 6GB+ of VRAM is recommended;

NVIDIA/AMD GPUs supported。

官方网址:

https://lmstudio.ai/

LMStudio 的使用流程

使用流程非常简单,三个步骤,如下图所示:

安装

官网选择适合自己系统的安装程序,直接安装即可:

我在安装过程中遇到了 ffmpeg.dll 文件找不到的问题,下载 ffmpeg 之后,配置好相应环境变量,就可以正常安装了,未遇到该问题,直接忽略即可:

模型的下载

LMStudio 首页上有推荐的模型清单,可以点击直接下载:

鉴于网络原因,直接在 LMStudio 中是无法下载这些模型文件的,可以在下边的 Model Downloads 窗口中,找到模型地址,复制该地址,使用迅雷下载:

迅雷下载的速度还是可以的,但不能保证所有的模型都能通过这种方式下载:

如果你想使用的模型无法通过此种方式下载,可以复制模型名称,然后到魔搭社区下载即可。

模型下载之后,存放路径如下图所示:

LMStudio 中保存模型的路径如下配置:

模型的使用

在 LMStudio 中,进入对话页面,首先选择一个模型,待加载完毕就可以进行对话了:

生成过程中,可以实时的看到资源的占用情况:

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注