Skip to content
TheChatArchiveThe Chat Archive
gpt-4o-search-preview· OpenAIHugging Face LMArena Search Arena 24K

物理机部署deepseek r1

From a Chatbot Arena battleThe same person sent this prompt to two anonymous models at once. Compare it with Geminigemini-2.0-flash-grounding’s answer.
  1. User

    物理机部署deepseek r1

  2. Assistant

    要在物理机上部署 DeepSeek-R1 模型,您可以根据硬件配置和需求选择适当的部署方案。以下是针对不同硬件环境的部署指南:

    1. 昇腾 910B 物理机部署 DeepSeek-R1

    如果您使用的是昇腾 910B 物理机,可参考以下步骤:

    • 单机部署:

      • 创建物理机: 登录天翼云控制中心,选择“物理机服务”,点击“创建物理机”。在基础配置中,选择计费模式、地域、可用区等,选择昇腾物理机规格(如 physical.acas910b.2xlarge11),并选择公共镜像 CTyunOS-23.01.2@deepseek-r1-7b 64位。

      • 网络与高级配置: 配置虚拟私有云、网卡,并分配弹性 IP。设置 root 用户密码。

      • 确认并支付: 检查配置,确认无误后完成支付。

      • 使用模型: 创建完成后,您可以通过 API 服务调用 DeepSeek-R1 模型,或通过 Web 可视化界面进行交互。[1]

    • 多机部署:

      对于需要更高性能的应用,可采用多机部署方案。该方案涉及环境准备、服务启动与可视化界面配置等步骤。详细指南请参考天翼云的相关文档。[2]

    2. NVIDIA GPU 物理机部署 DeepSeek-R1

    如果您使用的是 NVIDIA GPU 物理机,可参考以下步骤:

    • 规格选型: 根据模型参数量选择合适的物理机规格。较小参数量的模型(如 1.5B、7B)可在 CPU 物理机上运行;更大的模型(如 70B、671B)建议使用 H800、A800、L40S 等 GPU 物理机。

    • 使用 DeepSeek 镜像创建物理机:

      • 创建物理机: 选择 NVIDIA GPU 物理机规格,选择公共镜像 Ubuntu 22.04@deepseek-r1-7b 64位,完成物理机创建。

      • 登录物理机并拉取模型: 登录物理机后,使用命令行拉取所需模型。例如,拉取 deepseek-r1:70b 模型:

        mkdir deepseek-r1-70b
        cd deepseek-r1-70b
        wget https://mirrors.ctyun.cn/ollama/models/deepseek-r1-70b/deepseek-r1-70b.gguf
        wget https://mirrors.ctyun.cn/ollama/models/deepseek-r1-70b/ModelFile
        ollama create deepseek-r1:70b -f ModelFile
        

      下载完成后,即可使用 deepseek-r1:70b 模型。[3]

    请根据您的硬件环境和需求选择适合的部署方案。

Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.