[AIGC魔童]DeepSeek v3推理部署客户端:LM Studio
发布时间:2025-06-24 17:08:51 作者:北方职教升学中心 阅读量:717
【AIGC魔童】DeepSeek v3推理部署客户端:LM Studio。
- (1)LM 安装Studio。
- (2)操作DeepSeek模型。
- (3)常见问题。
LM Studio是一款客户端应用程序,可以在本地离线运行各种大型语言模型c;通过LM Studio 开源大语言模型可以快速搜索所需的llms类型c;并进行操作。
使用LM Studio 大语言模型在本地运行可以更快、更流畅地提问,并确保数据在独立环境中不被监控和收集。
特点。:本地,独立,离线。
官网。:https://lmstudio.ai/。
(1)LM 安装Studio。
步骤一。、进入官网后,根据操作系统下载相应的安装包:
步骤二。、下载后,点击以下安装包执行文件:
步骤三。、打开后,下一步进入安装界面,点击安装进入安装环节,配置相应内容点击下一步完成安装,安装后,桌面将显示如下图标:
(2)操作DeepSeek模型。
步骤一。、双击快捷图标#xff00c;打开LM Studio。
选择一个模型,这里默认可以选择LLM模型,但也可以点击下图 跳过菜单,跳过#xff1a;
跳过后可以进入步骤2。
步骤二。、进入chat界面,点击顶部的选择按钮,搜索和下载新模型:
搜索我们的DeepSeek模型,下图:
点击search more 进入检索界面,根据下图选择并单击下载检索信息:
等待下载完成…
步骤三。、下载后,chat界面选择运行模型和配置信息,下图:
点击模型弹出配置参数表,可根据自己的计算机性能选择(性能越高速度越快,#xff09;:
确认后点击load Model可以,对于model的管理,可以点击左侧的model菜单加载到:
DeepSeek效果在本地运行。:
可见已正常运行输出,作者的计算机配置较低,因此,回复等待时间较长计算机配置越高c;速度越快,#xff00c;效果越好。
(3)常见问题。
(1)提示消息属于无意义的英文提示(本机配置太低或者不是独立显卡,由于无法正常加载模型而导致的)
选择模型后加载进度结束后༌选择框中仍然没有选择的模型:
这是因为配置太低,预加载不成功导致这个问题只能尝试更换配置更高的计算机。
安装其他模型的方法:
说明:通过搜索model库中的模型,与上述安装deepsek模型的操作模式相同,以下是其他开源大语言模型的安装操作。
下载后,chat界面顶部,选择这个模型: