）FROM ./下载模型.gguf

发布时间：2025-06-24 18:33:16  作者：北方职教升学中心  阅读量：475

运行。

如果要直接拉模型󿀌可以使用 pull。简单的演示调用简单的生成文本界面。

前言。全ip访问即可实现。 :11434。https://huggingface.co/。

body：

{。

安装完成后󿀌打开命令行，执行命令：

ollama --version。）
FROM ./下载模型.gguf。
下载后双击 exe 文件，下一步无脑就行了。
环境变量。
以下是拉取国内开源模型的演示 qwen2。
检查环境变量。
目录。当地模型和应用程序经常部署在不同的服务器上，因此，大模型通常通过应用程序通过接口调用。
下载安装。
ollama create example -f Modelfile。
本地部署大模型󿀌默认配置，只能在本地机器下访问#xff0c;但在实际开发中，在这里，
接口调用。
工作需要�被指派对大模型进行技术研究c;不想花钱买各大厂商的key，因此，
除了官方默认支持的模型，还可以下载其他模型󿀌然后使用 ollama 启动工具。
ollama 官网：
https://ollama.com/。
ollama pull qwen2。
如果没有本地的󿀌自动下载，然后运行。 
运行界面。格式）
https://huggingface.co/。
ollama run example。
其他模型。
ollama serve --help。
默认是 127.0.0.1:11434，修改成。
下载安装。
其他模型。
使用新建的 Modelfile 创建模型。
除了使用命令行与大模型对话󿀌也可以通过接口调用与大模型交互，在实际使用中，
前言。
官网中的 Models 可以找到页面 ollama 默认支持模型。
下载模型。Get up and running with Llama 3.1, Mistral, Gemma 2, and other large language models. - ollama/docs/api.md at main · ollama/ollama。他在自己的电脑上安装了，记录安装和使用过程。
环境变量。
ollama run qwen2。
  "model": "qwen2",
  "prompt": "为什么我的眼睛经常含泪"
}。https://ollama.com/。
接口调用。创建Modelfile 文件，然后写下载 gguf #xff08模型文件地址;以下使用是相对地址。https://github.com/ollama/ollama/blob/main/docs/api.md。
url：
http://localhost:11434/api/generate。需要修改相关配置，使外部机器能够访问。
下载模型。考虑部署本地大模型，了解到 Ollama 开源框架󿀌在本地机器上方便部署和运行大型语言模型（LLM）而设计。
API文档：
ollama/docs/api.md at main · ollama/ollama · GitHub。
可以在 huggingface 上下载一些开源大模型（GGUF。