WebCal
Ctrl K

向导

弹性部署

向导集成常见问题支持
定价博客
快速开始充值与计费学术资源加速快速开始简介维护与故障网络
平台信息JetBrain ProjectorTmpWebCal学者计划@2026公测/宿迁A区介绍关于我们实例间数据拷贝服务器的性能指标分析潮汐算力负载均衡
国产芯片使用华为MindIE华为昇腾NPU摩尔线程GPU
配置环境CUDA/cuDNNMinicondaPython3.X依赖安装概要镜像
企业高级功能弹性部署弹性部署更新日志弹性部署最佳实践性能指标监控
容器实例JupyterLabSSH远程连接保存镜像升降配置多机多卡并行守护进程概述转换计费方式迁移实例(同地区)迁移实例远程桌面重置系统
如何选择 GPUGPU选型性能实测
数据上传数据下载数据公开数据公网网盘(强烈推荐)压缩 / 解压文件存储本地数据盘概要
最佳实践FileZillaGitGromacsHuggingFaceKataGoLinux基础MPIOpenCLPyCharm远程开发R(Rstudio)安装SSH隧道TensorBoardVSCode远程开发VisdomVulkanXShell开放端口微信消息性能篇暴露多个服务省钱绝招计算精度问题软件源

企业高级功能

弹性部署

2026/07/3041016 次浏览

该功能仅面向企业用户,认证入口: 控制台 -> 左侧菜单-账号安全 -> 实名认证。API文档:阅读API文档

已上线支持复用已停止容器功能,可显著缩短创建容器时间

弹性部署是专为企业AIGC等场景设计的批量调度和启动若干容器、以及管理容器生命周期的功能。

调度模式介绍

算力调度单元

在系统资源池中管理有N台不同配置的物理主机。主机在GPU型号及数量、CPU型号及数量、内存大小配置上有差异,系统将主机的CPU和内存按GPU数量(N)等比例划分为N个算力调度单元,不支持修改和拆分该调度单元。

例如主机A的配置为8卡3090、128核CPU、720GB内存,那么该主机每个算力调度单元为:3090 * 1;16 vCPU;90GB内存。在该主机上创建容器时,容器的算力配置只能为该调度单元的 1~8倍,不可调整CPU、内存与GPU之间的数量比例。

容器的调度与启动

容器根据您指定的调度条件进行创建,由于以上算力调度单元的不可拆分性和不同主机之间算力单元的差异性,指定的调度条件可以有:GPU的型号和数量、CPU数量范围、内存大小范围、价格范围等。当某主机满足该调度条件时,即在该主机上创建和启动容器。例如:

有机器A、B、C。空闲的算力分别为:8卡3090、128核CPU、720GB内存、8卡3090、64核CPU、720GB内存、8卡3090、128核CPU、360GB内存

设置调度条件为:GPU数量=8,CPU数量范围=[100, 200],内存大小范围=[224, 1024]。

那么系统最终会在A或者C主机上创建实例,如果在A主机上创建实例,则实例的配置规格为8卡3090、128核CPU、720GB内存、如果在C主机上创建实例,则实例的配置规格为8卡3090、128核CPU、360GB内存

ReplicaSet类型的调度

WebCal的ReplicaSet指创建和维护一组在任何时候都处于运行状态,且容器数量达到指定副本数量的稳定集合。每个容器副本都根据您设置的容器调度条件进行调度与启动。

如果修改调度条件,系统将会销毁不满足条件的已存在运行中的容器,并启动符合条件的新容器。修改容器副本数量将立即创建新容器或销毁已存在运行中的容器,直到运行中的容器数量=您设置的副本数量。

Job类型的调度

WebCal的Job指创建一个或多个容器,直到指定数量的容器执行结束并退出。和ReplicaSet不同的地方是,Job不会为了维持指定的容器副本数量,而在某个容器结束后启动新容器(启动新容器仅因为已经完成的容器数量未达到设置的目标容器数量)。而是容器结束后就将其记录为完成,直到完成的容器数量达到设置的目标值,此时整个调度结束,不再启动新容器。

Container类型的调度

WebCal的Container指仅创建一个容器,直到该容器结束并退出,即结束调度。等价于目标容器数量=1的Job调度。

容器生命周期

容器的生命周期取决于您设置的cmd命令执行生命周期。cmd执行结束那么该容器将会退出关机,因此如果您的cmd中启动应用程序的命令做了后台运行处理,则在cmd的最后添加sleep infinity,防止父进程退出导致容器关机以及所有其他进程结束。即以下两种方式均可(以下具体命令只是示例):

# 方式一:
python app.py

# 方式二:
nohup python app.py & && sleep infinity

以上方式二应用程序后台运行,通过sleep infinity阻断cmd结束,这样会使得app.py应用程序的生命周期和容器的生命周期两者独立,需要您独立管理应用程序的生命周期(即假设app.py运行结束,实际上容器仍然在正常运行中,不能通过容器状态推知应用状态)。如果您需要自行管理应用程序的生命周期,则推荐使用这种方式,否则推荐方式一。 此外您可以调用停止弹性部署的接口或者停止某一具体容器的接口完成容器的停止。

计费

请参考计费文档

弹性部署中的容器和容器实例的差异

差异1:数据的保留规则不同

在算力市场租用的容器实例,当实例关机后有一段数据保留期(参考文档),弹性部署的容器在关机后立即释放数据,不会保留。

差异2:数据盘扩容不同

在算力市场租用的容器实例支持数据盘扩容,弹性部署的容器不支持扩容数据盘,即数据盘默认大小50GB。

差异3:重启方式不同

在算力市场租用的容器实例只要没有释放就可以重新开机,弹性部署容器停止后无法重新开机。如果部署已经停止,可以重新创建部署,如果部署没有停止,可以通过设置副本数量调整运行容器数量。

差异4:进入容器方式不同

弹性部署容器没有jupyterlab入口,如果需要进入容器可以获取SSH指令和密码进入。参考文档

下一篇JetBrain Projector
WebCal文档返回向导