ollama 是一个管理和运行大型语言模型的工具,提供了多个命令和选项来帮助你方便地操作和部署模型。以下是对 ollama 工具的所有命令和参数的详细说明:

主要命令

  1. serve
    启动 ollama,将模型作为服务运行。

    • 用途:适合长期运行模型服务,通常用于接收外部请求并返回模型推理结果。
    • 示例:
      ollama serve
      
  2. create
    使用 Modelfile 创建一个新的模型。

    • 用途:用于从一个描述模型的文件(Modelfile)创建新的模型实例。
    • 示例:
      ollama create MyModel Modelfile.yaml
      
  3. show
    显示模型的详细信息。

    • 用途:查看已存在模型的详细信息。
    • 示例:
      ollama show deepseek:32b
      
  4. run
    执行一个模型并返回结果。

    • 用途:运行一个指定的模型,适合一次性执行模型的推理。
    • 示例:
      ollama run deepseek:32b "What is the capital of France?" --format json
      
  5. stop
    停止正在运行的模型实例。

    • 用途:关闭一个已经启动的模型服务。
    • 示例:
      ollama stop deepseek:32b
      
  6. pull
    从注册中心拉取(下载)一个模型。

    • 用途:从外部注册中心获取并下载一个模型。
    • 示例:
      ollama pull deepseek:32b
      
  7. push
    将模型推送到一个注册中心。

    • 用途:将本地模型上传到模型注册中心,通常是共享或部署模型时使用。
    • 示例:
      ollama push deepseek:32b
      
  8. list
    列出所有已安装的模型。

    • 用途:查看本地的所有可用模型。
    • 示例:
      ollama list
      
  9. ps
    列出当前正在运行的模型实例。

    • 用途:查看正在运行的模型,通常用于监控模型的状态。
    • 示例:
      ollama ps
      
  10. cp
    复制模型。

    • 用途:复制一个模型到另一个位置或名称。
    • 示例:
      ollama cp oldModel newModel
      
  11. rm
    删除一个模型。

    • 用途:删除本地的一个模型实例。
    • 示例:
      ollama rm deepseek:32b
      
  12. help
    获取帮助信息。

    • 用途:查看 ollama 命令或某个子命令的详细帮助信息。
    • 示例:
      ollama help
      

常用全局标志

  1. -h, --help
    显示帮助信息。

    • 用途:显示关于 ollama 命令或某个子命令的帮助。
    • 示例:
      ollama --help
      
  2. -v, --version
    显示版本信息。

    • 用途:查看当前安装的 ollama 版本。
    • 示例:
      ollama --version
      

总结

  • ollama serve:适用于启动长期运行的模型服务。
  • ollama run:适用于执行一次性请求,适合简单的模型推理。
  • ollama createollama pushollama pull:用于模型的创建、上传和下载。
  • ollama psollama list:用于查看已安装或正在运行的模型。

你可以根据需要选择合适的命令来管理你的模型服务。

Logo

更多推荐