[AIGC魔童]DeepSeek v3推理部署客户端:LM Studio

发布时间:2025-06-24 17:08:51  作者:北方职教升学中心  阅读量:717


【AIGC魔童】DeepSeek v3推理部署客户端:LM Studio。

    • (1)LM 安装Studio。
    • (2)操作DeepSeek模型。
    • (3)常见问题。

LM Studio是一款客户端应用程序࿰,可以在本地离线运行各种大型语言模型c;通过LM Studio 开源大语言模型࿰可以快速搜索所需的llms类型c;并进行操作。

使用LM Studio 大语言模型在本地运行可以更快、更流畅地提问,并确保数据在独立环境中不被监控和收集。

特点。:本地,独立,离线。

官网。:https://lmstudio.ai/。

(1)LM 安装Studio。

步骤一。、进入官网后,根据操作系统下载相应的安装包:

在这里插入图片描述

步骤二。、下载后,点击以下安装包执行文件:

在这里插入图片描述

步骤三。、打开后,下一步进入安装界面,点击安装进入安装环节,配置相应内容󿀌点击下一步完成安装,安装后,桌面将显示如下图标:

在这里插入图片描述

(2)操作DeepSeek模型。

步骤一。、双击快捷图标#xff00c;打开LM Studio。

选择一个模型,这里默认可以选择LLM模型,但也可以点击下图 跳过菜单,跳过#xff1a;

在这里插入图片描述

跳过后可以进入步骤2。

步骤二。、进入chat界面,点击顶部的选择按钮,搜索和下载新模型:

在这里插入图片描述

搜索我们的DeepSeek模型,下图:

在这里插入图片描述

点击search more 进入检索界面,根据下图选择并单击下载检索信息:

在这里插入图片描述

等待下载完成…

在这里插入图片描述

步骤三。、下载后,chat界面选择运行模型和配置信息,下图:

在这里插入图片描述

点击模型󿀌弹出配置参数表,可根据自己的计算机性能选择(性能越高󿀌速度越快,#xff09;:

在这里插入图片描述

确认后󿀌点击load Model可以,对于model的管理,可以点击左侧的model菜单加载到:

在这里插入图片描述

DeepSeek效果在本地运行。

在这里插入图片描述

可见已正常运行输出,作者的计算机配置较低,因此,回复等待时间较长󿀌计算机࿰配置越高c;速度越快,#xff00c;效果越好。

(3)常见问题。

(1)提示消息属于无意义的英文提示(本机配置太低󿀌或者不是独立显卡,由于无法正常加载模型而导致的)

在这里插入图片描述

选择模型后󰀌加载进度结束后༌选择框中仍然没有选择的模型:
这是因为配置太低,预加载不成功导致󿀌这个问题只能尝试更换配置更高的计算机。

安装其他模型的方法:
说明:通过搜索model库中的模型,与上述安装deepsek模型的操作模式相同,以下是其他开源大语言模型的安装操作。

在这里插入图片描述

下载后,chat界面顶部,选择这个模型:

在这里插入图片描述