本地部署测试大模型

By timebusker on February 12, 2026

系统要求与准备

Ollama安装步骤

官方安装包(推荐新手)
  • 下载安装程序 访问官网下载客户端程序
  • 自定义安装路径 因为Ollama包和模型比较大,可考虑安装到其他盘
    # 自定义安装路径
    .\OllamaSetup.exe /DIR="D:\Ollama"
    

重要配置设置

  • 修改模型存储路径(避免C盘爆满) 默认模型存储在C:\Users\<用户名>\.ollama\models,可通过环境变量修改: OLLAMA_MODELS=D:\ollama_models(自定义路径) 必须重启系统或重启Ollama服务生效

下载与运行模型

# 拉取模型(首次运行会自动下载)
ollama pull qwen2.5:7b

# 查看已安装模型
ollama list

# 删除模型释放空间
ollama rm 模型名

# 启动交互式对话
ollama run qwen2.5:7b

# 带参数运行
ollama run qwen2.5:7b --temperature 0.7 --top_p 0.9 --memory 12G[14](@ref)

指令大全

# 基础命令
ollama serve              # 启动服务
ollama ps                 # 查看运行状态[8](@ref)
ollama help               # 查看帮助[15](@ref)

# 模型管理
ollama list               # 列出本地模型[10](@ref)
ollama show 模型名        # 显示模型信息[10](@ref)
ollama cp 源模型 目标模型 # 复制模型[15](@ref)
ollama push 模型名        # 推送到注册表[10](@ref)

# 创建自定义模型
ollama create 自定义名 -f Modelfile