tencentcloud-sdk-nodejs

/** * CreateModelService请求参数结构体 */ export interface CreateModelServiceRequest { /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 新增版本时需要填写 */ ServiceGroupId?: string; /** * 不超过60个字，仅支持英文、数字、下划线"_"、短横"-"，只能以英文、数字开头 */ ServiceGroupName?: string; /** * 模型服务的描述 */ ServiceDescription?: string; /** * 付费模式,有 PREPAID （包年包月）和 POSTPAID_BY_HOUR（按量付费） */ ChargeType?: string; /** * 预付费模式下所属的资源组id，同服务组下唯一 */ ResourceGroupId?: string; /** * 模型信息，需要挂载模型时填写 */ ModelInfo?: ModelInfo; /** * 镜像信息，配置服务运行所需的镜像地址等信息 */ ImageInfo?: ImageInfo; /** * 环境变量，可选参数，用于配置容器中的环境变量 */ Env?: Array<EnvVar>; /** * 资源描述，指定包年包月模式下的cpu,mem,gpu等信息，后付费无需填写 */ Resources?: ResourceInfo; /** * 使用DescribeBillingSpecs接口返回的规格列表中的值，或者参考实例列表: TI.S.MEDIUM.POST 2C4G TI.S.LARGE.POST 4C8G TI.S.2XLARGE16.POST 8C16G TI.S.2XLARGE32.POST 8C32G TI.S.4XLARGE32.POST 16C32G TI.S.4XLARGE64.POST 16C64G TI.S.6XLARGE48.POST 24C48G TI.S.6XLARGE96.POST 24C96G TI.S.8XLARGE64.POST 32C64G TI.S.8XLARGE128.POST 32C128G TI.GN7.LARGE20.POST 4C20G T41/4 TI.GN7.2XLARGE40.POST 10C40G T41/2 TI.GN7.2XLARGE32.POST 8C32G T41 TI.GN7.5XLARGE80.POST 20C80G T41 TI.GN7.8XLARGE128.POST 32C128G T41 TI.GN7.10XLARGE160.POST 40C160G T42 TI.GN7.20XLARGE320.POST 80C320G T4*4 */ InstanceType?: string; /** * 扩缩容类型支持：自动 - "AUTO", 手动 - "MANUAL",默认为MANUAL */ ScaleMode?: string; /** * 实例数量, 不同计费模式和调节模式下对应关系如下 PREPAID 和 POSTPAID_BY_HOUR: 手动调节模式下对应实例数量 自动调节模式下对应基于时间的默认策略的实例数量 HYBRID_PAID: 后付费实例手动调节模式下对应实例数量 后付费实例自动调节模式下对应时间策略的默认策略的实例数量 */ Replicas?: number; /** * 自动伸缩信息 */ HorizontalPodAutoscaler?: HorizontalPodAutoscaler; /** * 是否开启日志投递，开启后需填写配置投递到指定cls */ LogEnable?: boolean; /** * 日志配置，需要投递服务日志到指定cls时填写 */ LogConfig?: LogConfig; /** * 是否开启接口鉴权，开启后自动生成token信息，访问需要token鉴权 */ AuthorizationEnable?: boolean; /** * 腾讯云标签 */ Tags?: Array<Tag>; /** * 是否新增版本 */ NewVersion?: boolean; /** * 定时任务配置，使用定时策略时填写 */ CronScaleJobs?: Array<CronScaleJob>; /** * 自动伸缩策略配置 HPA : 通过HPA进行弹性伸缩 CRON 通过定时任务进行伸缩 */ ScaleStrategy?: string; /** * 计费模式[HYBRID_PAID]时生效, 用于标识混合计费模式下的预付费实例数 */ HybridBillingPrepaidReplicas?: number; /** * [AUTO_ML 自动学习，自动学习正式发布 AUTO_ML_FORMAL, DEFAULT 默认] */ CreateSource?: string; /** * 是否开启模型的热更新。默认不开启 */ ModelHotUpdateEnable?: boolean; /** * 定时停止配置 */ ScheduledAction?: ScheduledAction; /** * 挂载配置，目前只支持CFS */ VolumeMount?: VolumeMount; /** * 服务限速限流相关配置 */ ServiceLimit?: ServiceLimit; /** * 回调地址，用于回调创建服务状态信息，回调格式&内容详情见：<a href="https://cloud.tencent.com/document/product/851/84292">TI-ONE 接口回调说明</a> */ CallbackUrl?: string; /** * 是否开启模型的加速, 仅对StableDiffusion(动态加速)格式的模型有效。 */ ModelTurboEnable?: boolean; /** * 服务分类 */ ServiceCategory?: string; /** * 服务的启动命令，如遇特殊字符导致配置失败，可使用CommandBase64参数 */ Command?: string; /** * 是否开启TIONE内网访问外部，此功能仅支持后付费机型与从TIONE平台购买的预付费机型；使用从CVM选择资源组时此配置不生效。 */ ServiceEIP?: ServiceEIP; /** * 服务的启动命令，以base64格式进行输入，与Command同时配置时，仅当前参数生效 */ CommandBase64?: string; /** * 服务端口，仅在非内置镜像时生效，默认8501。不支持输入8501-8510,6006,9092 */ ServicePort?: number; /** * 服务的部署类型 [标准部署，分布式多机部署，] 默认STANDARD枚举值：<ul><li>STANDARD：标准部署</li><li>DIST：多机分布式部署</li><li>ROLE_SET：多角色部署</li></ul> */ DeployType?: string; /** * 单副本下的实例数，仅在部署类型为DIST时生效，默认1 */ InstancePerReplicas?: number; /** * 服务的优雅退出时限。单位为秒，默认值为30，最小为1 */ TerminationGracePeriodSeconds?: number; /** * 服务实例停止前执行的命令，执行完毕或执行时间超过优雅退出时限后实例结束 */ PreStopCommand?: Array<string>; /** * 是否启用 grpc 端口 */ GrpcEnable?: boolean; /** * 健康探针 */ HealthProbe?: HealthProbe; /** * 滚动更新策略 */ RollingUpdate?: RollingUpdate; /** * sidecar配置 */ Sidecar?: SidecarSpec; /** * 数据盘批量挂载配置，当前仅支持CFS，仅针对“模型来源-腾讯云存储、模型来源-腾讯云容器镜像、模型来源-资源组、模型来源-数据源”。 */ VolumeMounts?: Array<VolumeMount>; /** * 调度策略 [binpack] 优先占满整机，尽量避免碎卡（默认值）[spread] 优先分散在各个节点，确保服务高可用 */ SchedulingStrategy?: string; /** * 网关日志投递相关配置 */ GatewayLogConfig?: LogConfig; /** * 网关相关配置 */ GatewayConfig?: GatewayConfig; /** * 资源供应属性(潮汐/竞价等供应模式);空表示常规按量后付费 */ ResourceSupplyAttribute?: ResourceSupplyAttribute; } /** * DescribePresetImageList请求参数结构体 */ export interface DescribePresetImageListRequest { /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 业务过滤表达式 */ Filters?: Array<Filter>; /** * 分页排序 */ Offset?: number; /** * 单页大小 */ Limit?: number; /** * 排序字段 */ OrderField?: Array<string>; /** * 对应字段的排序方式 */ Order?: Array<string>; } /** * DescribeLogs请求参数结构体 */ export interface DescribeLogsRequest { /** * 服务类型，TRAIN为任务式建模, NOTEBOOK为Notebook, INFER为在线服务, BATCH为批量预测 枚举值：<ul><li>TRAIN</li><li>NOTEBOOK</li><li>INFER</li><li>BATCH</li></ul> */ Service: string; /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 日志查询开始时间（RFC3339格式的时间字符串），默认值为当前时间的前一个小时 */ StartTime?: string; /** * 日志查询结束时间（RFC3339格式的时间字符串），默认值为当前时间 */ EndTime?: string; /** * 日志查询条数，默认值100，最大值1000 */ Limit?: number; /** * 服务ID，和Service参数对应，不同Service的服务ID获取方式不同，具体如下：<ul><li>Service类型为TRAIN： 调用<a href="/document/product/851/75089">DescribeTrainingTask接口</a>查询训练任务详情，ServiceId为接口返回值中Response.TrainingTaskDetail.LatestInstanceId</li><li>Service类型为NOTEBOOK： 调用<a href="/document/product/851/95662">DescribeNotebook接口</a>查询Notebook详情，ServiceId为接口返回值中Response.NotebookDetail.PodName</li><li>Service类型为INFER： 调用<a href="/document/product/851/82285">DescribeModelServiceGroup接口</a>查询服务组详情，ServiceId为接口返回值中Response.ServiceGroup.Services.ServiceId</li><li>Service类型为BATCH： 调用<a href="/document/product/851/80180">DescribeBatchTask接口</a>查询跑批任务详情，ServiceId为接口返回值中Response.BatchTaskDetail.LatestInstanceId</li></ul> */ ServiceId?: string; /** * Pod的名称，即需要查询服务对应的Pod，和Service参数对应，不同Service的PodName获取方式不同，具体如下：<ul><li>Service类型为TRAIN： 调用<a href="/document/product/851/75088">DescribeTrainingTaskPods接口</a>查询训练任务pod列表，PodName为接口返回值中Response.PodNames</li><li>Service类型为NOTEBOOK： 调用<a href="/document/product/851/95662">DescribeNotebook接口</a>查询Notebook详情，PodName为接口返回值中Response.NotebookDetail.PodName</li><li>Service类型为INFER： 调用<a href="/document/product/851/82287">DescribeModelService接口</a>查询单个服务详情，PodName为接口返回值中Response.Service.ServiceInfo.PodInfos</li><li>Service类型为BATCH： 调用<a href="/document/product/851/80180">DescribeBatchTask接口</a>查询跑批任务详情，PodName为接口返回值中Response.BatchTaskDetail. PodList 注：支持结尾通配符*</li></ul> */ PodName?: string; /** * 排序方向（可选值为ASC, DESC ），默认为DESC */ Order?: string; /** * 按哪个字段排序（可选值为Timestamp），默认值为Timestamp */ OrderField?: string; /** * 日志查询上下文，查询下一页的时候需要回传这个字段，该字段来自本接口的返回 */ Context?: string; /** * 过滤条件 注意: <ol><li>Filter.Name：目前只支持Key（也就是按关键字过滤日志）</li><li>Filter.Values：表示过滤日志的关键字；Values为多个的时候表示同时满足</li><li>Filter. Negative和Filter. Fuzzy没有使用</li></ol> */ Filters?: Array<Filter>; /** * 使用OFFSET分页查询时，指定返回的数据偏移量，默认为0 */ Offset?: number; /** * 日志类别枚举值：<ul><li>stdout： stdout</li><li>stderr： stderr</li></ul>默认值："" */ LogStream?: string; } /** * DescribeModelAccelerateVersions请求参数结构体 */ export interface DescribeModelAccelerateVersionsRequest { /** * 过滤条件 Filter.Name: 枚举值: ModelJobName (任务名称)|TrainingModelVersionId (模型版本id) Filter.Values: 当长度为1时，支持模糊查询; 不为1时，精确查询每次请求的Filters的上限为10，Filter.Values的上限为100 */ Filters?: Array<Filter>; /** * 排序字段; 枚举值: CreateTime (创建时间) ；默认CreateTime */ OrderField?: string; /** * 排序方向; 枚举值: ASC | DESC；默认DESC */ Order?: string; /** * 分页查询起始位置，如：Limit为100，第一页Offset为0，第二页Offset为100...即每页左边为闭区间; 默认0 */ Offset?: number; /** * 分页查询每页大小，最大20000; 默认10 */ Limit?: number; /** * 模型ID */ TrainingModelId?: string; } /** * StopModelAccelerateTask请求参数结构体 */ export interface StopModelAccelerateTaskRequest { /** * 模型加速任务ID */ ModelAccTaskId: string; } /** * DeleteTrainingModelVersion返回参数结构体 */ export interface DeleteTrainingModelVersionResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 服务共享弹性网卡设置 */ export interface ServiceEIP { /** * 是否开启TIONE内网到外部的访问注意：此字段可能返回 null，表示取不到有效值。 */ EnableEIP?: boolean; /** * 用户VpcId 注意：此字段可能返回 null，表示取不到有效值。 */ VpcId?: string; /** * 用户subnetId 注意：此字段可能返回 null，表示取不到有效值。 */ SubnetId?: string; } /** * DescribeExport返回参数结构体 */ export interface DescribeExportResponse { /** * 日志下载任务的ID */ ExportId?: string; /** * 日志下载文件名 */ FileName?: string; /** * 日志导出路径,有效期一个小时，请尽快使用该路径下载。 */ CosPath?: string; /** * 下载任务创建时间 */ CreateTime?: string; /** * 日志文件大小 */ FileSize?: string; /** * 日志下载状态。Processing:导出正在进行中，Completed:导出完成，Failed:导出失败，Expired:日志导出已过期(三天有效期), Queuing 排队中 */ Status?: string; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * Notebook列表元素 */ export interface NotebookSetItem { /** * notebook ID */ Id?: string; /** * notebook 名称 */ Name?: string; /** * 计费模式 */ ChargeType?: string; /** * 资源配置 */ ResourceConf?: ResourceConf; /** * 预付费资源组 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupId?: string; /** * 存储卷大小 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSizeInGB?: number; /** * 计费金额信息，eg：2.00元/小时 (for后付费) 注意：此字段可能返回 null，表示取不到有效值。 */ BillingInfos?: Array<string>; /** * 标签配置 注意：此字段可能返回 null，表示取不到有效值。 */ Tags?: Array<Tag>; /** * 创建时间 */ CreateTime?: string; /** * 启动时间 注意：此字段可能返回 null，表示取不到有效值。 */ StartTime?: string; /** * 更新时间 */ UpdateTime?: string; /** * 运行时间 注意：此字段可能返回 null，表示取不到有效值。 */ RuntimeInSeconds?: number; /** * 计费状态 注意：此字段可能返回 null，表示取不到有效值。 */ ChargeStatus?: string; /** * 状态 */ Status?: string; /** * 错误原因 注意：此字段可能返回 null，表示取不到有效值。 */ FailureReason?: string; /** * 结束时间 注意：此字段可能返回 null，表示取不到有效值。 */ EndTime?: string; /** * Pod名称 注意：此字段可能返回 null，表示取不到有效值。 */ PodName?: string; /** * 后付费资源规格名称 注意：此字段可能返回 null，表示取不到有效值。 */ InstanceTypeAlias?: string; /** * 预付费资源组名称 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupName?: string; /** * 是否自动终止 */ AutoStopping?: boolean; /** * 自动停止时间 注意：此字段可能返回 null，表示取不到有效值。 */ AutomaticStopTime?: number; /** * 存储的类型。取值包含： FREE: 预付费的免费存储 CLOUD_PREMIUM：高性能云硬盘 CLOUD_SSD： SSD云硬盘 CFS: CFS存储，包含NFS和turbo 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSourceType?: string; /** * CFS存储的配置 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSourceCFS?: CFSConfig; /** * notebook 信息 注意：此字段可能返回 null，表示取不到有效值。 */ Message?: string; /** * notebook用户类型 注意：此字段可能返回 null，表示取不到有效值。 */ UserTypes?: Array<string>; /** * SSH配置 注意：此字段可能返回 null，表示取不到有效值。 */ SSHConfig?: SSHConfig; /** * GooseFS存储配置 注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSourceGooseFS?: GooseFS; /** * 子用户ID 注意：此字段可能返回 null，表示取不到有效值。 */ SubUin?: string; /** * 子用户名称 */ SubUinName?: string; /** * AppId 注意：此字段可能返回 null，表示取不到有效值。 */ AppId?: string; /** * 容器服务暴露端口配置 */ ExposePortConfig?: ExposePortConfig; /** * 描述 注意：此字段可能返回 null，表示取不到有效值。 */ Description?: string; /** * 操作者信息 */ LatestOperatorInfo?: OperatorInfo; } /** * DescribeBillingResourceGroupAttachedWorkspaces返回参数结构体 */ export interface DescribeBillingResourceGroupAttachedWorkspacesResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * DescribeDataSources返回参数结构体 */ export interface DescribeDataSourcesResponse { /** * 数据源列表 */ DataSourceInfos?: Array<DataSourceInfo>; /** * 总条数 */ TotalCount?: number; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * ModifyServiceGroupWeights返回参数结构体 */ export interface ModifyServiceGroupWeightsResponse { /** * 更新权重后的服务组信息注意：此字段可能返回 null，表示取不到有效值。 */ ServiceGroup?: ServiceGroup; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 大模型生成Token统计 */ export interface Usage { /** * 生成的token数目 */ CompletionTokens?: number; /** * 输入的token数目 */ PromptTokens?: number; /** * 总共token数目 */ TotalTokens?: number; } /** * 描述网关相关配置 */ export interface GatewayConfig { /** * 网关类型 */ GatewayType?: string; /** * 网关调度算法：轮询、一致性哈希等 */ SchedulingAlgorithm?: string; /** * 一致性哈希使用的Header字段名 */ HashHeaderKey?: string; } /** * DescribeBillingResourceGroups请求参数结构体 */ export interface DescribeBillingResourceGroupsRequest { /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * Filter.Name: 枚举值: ResourceGroupId (资源组id列表) ResourceGroupName (资源组名称列表) AvailableNodeCount（资源组中可用节点数量） Filter.Values: 长度为1且Filter.Fuzzy=true时，支持模糊查询; 不为1时，精确查询每次请求的Filters的上限为5，Filter.Values的上限为100 */ Filters?: Array<Filter>; /** * 标签过滤 */ TagFilters?: Array<TagFilter>; /** * 偏移量，默认为0；分页查询起始位置，如：Limit为100，第一页Offset为0，第二页OffSet为100....即每页左边为闭区间 */ Offset?: number; /** * 分页查询每页大小，默认20 */ Limit?: number; /** * 支持模糊查找资源组id和资源组名 */ SearchWord?: string; /** * 是否不展示节点列表; true: 不展示，false 展示；默认为false */ DontShowInstanceSet?: boolean; } /** * DeleteNotebook请求参数结构体 */ export interface DeleteNotebookRequest { /** * notebook id */ Id: string; } /** * PushTrainingMetrics请求参数结构体 */ export interface PushTrainingMetricsRequest { /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 指标数据 */ Data?: Array<MetricData>; } /** * 过滤器 */ export interface Filter { /** * 过滤字段名称 */ Name?: string; /** * 过滤字段取值 */ Values?: Array<string>; /** * 是否开启反向查询 */ Negative?: boolean; /** * 是否开启模糊匹配 */ Fuzzy?: boolean; } /** * 训练诊断工具配置 */ export interface TrainToolConfig { /** * 是否开启 Hang 检测默认值：false */ EnableHangMonitor?: boolean; /** * Hang 检测的节点列表 */ HangMonitorNodes?: Array<string>; /** * Hang 超时时间取值范围：[1, 14400]单位：分 */ LogHangTimeoutInMinute?: number; } /** * DescribeTrainingModelVersions请求参数结构体 */ export interface DescribeTrainingModelVersionsRequest { /** * 模型ID */ TrainingModelId: string; /** * 过滤条件 Filter.Name: 枚举值: TrainingModelVersionId (模型版本ID) ModelVersionType (模型版本类型) 其值支持: NORMAL(通用) ACCELERATE (加速) ModelFormat（模型格式）其值Filter.Values支持： TORCH_SCRIPT/PYTORCH/DETECTRON2/SAVED_MODEL/FROZEN_GRAPH/PMML AlgorithmFramework (算法框架) 其值Filter.Values支持：TENSORFLOW/PYTORCH/DETECTRON2 Filter.Values: 当长度为1时，支持模糊查询; 不为1时，精确查询每次请求的Filters的上限为10，Filter.Values的上限为100 */ Filters?: Array<Filter>; } /** * 代码仓库配置 */ export interface CodeRepoConfig { /** * 代码仓库Id */ Id: string; /** * 代码仓下载目标地址 */ TargetPath: string; } /** * CreateDataset返回参数结构体 */ export interface CreateDatasetResponse { /** * 数据集ID 注意：此字段可能返回 null，表示取不到有效值。 */ DatasetId?: string; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 描述在线服务 */ export interface Service { /** * 服务组id */ ServiceGroupId?: string; /** * 服务id */ ServiceId?: string; /** * 服务组名 */ ServiceGroupName?: string; /** * 服务描述 注意：此字段可能返回 null，表示取不到有效值。 */ ServiceDescription?: string; /** * 服务的详细信息 注意：此字段可能返回 null，表示取不到有效值。 */ ServiceInfo?: ServiceInfo; /** * 集群id 注意：此字段可能返回 null，表示取不到有效值。 */ ClusterId?: string; /** * 地域 注意：此字段可能返回 null，表示取不到有效值。 */ Region?: string; /** * 命名空间 注意：此字段可能返回 null，表示取不到有效值。 */ Namespace?: string; /** * 付费类型 注意：此字段可能返回 null，表示取不到有效值。 */ ChargeType?: string; /** * 包年包月服务的资源组id，按量计费的服务为空 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupId?: string; /** * 包年包月服务对应的资源组名字 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupName?: string; /** * 服务的标签 注意：此字段可能返回 null，表示取不到有效值。 */ Tags?: Array<Tag>; /** * 服务所在的 ingress 的 name 注意：此字段可能返回 null，表示取不到有效值。 */ IngressName?: string; /** * 创建者 注意：此字段可能返回 null，表示取不到有效值。 */ CreatedBy?: string; /** * 创建时间 注意：此字段可能返回 null，表示取不到有效值。 */ CreateTime?: string; /** * 更新时间 注意：此字段可能返回 null，表示取不到有效值。 */ UpdateTime?: string; /** * 主账号 注意：此字段可能返回 null，表示取不到有效值。 */ Uin?: string; /** * 子账号 注意：此字段可能返回 null，表示取不到有效值。 */ SubUin?: string; /** * app_id 注意：此字段可能返回 null，表示取不到有效值。 */ AppId?: number; /** * 服务的业务状态 CREATING 创建中 CREATE_FAILED 创建失败 CREATE_SUCCEED 创建成功 ARREARS_STOP 因欠费停止 WHITELIST_STOP 白名单额度不足 RELEASE_FAILED 资源释放失败 WHITELIST_RELEASE_FAILED 白名单资源释放失败 TIMEOUT_EXCEPTION 创建超时异常 BILLING 计费中 WHITELIST_USING 白名单试用中 注意：此字段可能返回 null，表示取不到有效值。 */ BusinessStatus?: string; /** * 已废弃,以ServiceInfo中的对应为准 * @deprecated */ ServiceLimit?: ServiceLimit; /** * 已废弃,以ServiceInfo中的对应为准 * @deprecated */ ScheduledAction?: ScheduledAction; /** * 服务创建失败的原因，创建成功后该字段为默认值 CREATE_SUCCEED 注意：此字段可能返回 null，表示取不到有效值。 */ CreateFailedReason?: string; /** * 服务状态 CREATING 创建中 CREATE_FAILED 创建失败 TIMEOUT_EXCEPTION 创建超时异常 Normal 正常运行中 Stopped 已停止 Stopping 停止中 Abnormal 异常 Pending 启动中 Waiting 就绪中 注意：此字段可能返回 null，表示取不到有效值。 */ Status?: string; /** * 费用信息 注意：此字段可能返回 null，表示取不到有效值。 */ BillingInfo?: string; /** * 模型权重 注意：此字段可能返回 null，表示取不到有效值。 */ Weight?: number; /** * 服务的创建来源 AUTO_ML: 来自自动学习的一键发布 DEFAULT: 其他来源 注意：此字段可能返回 null，表示取不到有效值。 */ CreateSource?: string; /** * 版本号 注意：此字段可能返回 null，表示取不到有效值。 */ Version?: string; /** * 服务组下服务的最高版本号 注意：此字段可能返回 null，表示取不到有效值。 */ LatestVersion?: string; /** * 资源组类别托管 NORMAL，纳管 SW 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupSWType?: string; /** * 服务的归档状态 Waiting 等待归档中，Archived 已归档 注意：此字段可能返回 null，表示取不到有效值。 */ ArchiveStatus?: string; /** * 服务的部署类型 [STANDARD 标准部署，DIST 分布式多机部署] 默认STANDARD 注意：此字段可能返回 null，表示取不到有效值。 */ DeployType?: string; /** * 单副本下的实例数，仅在部署类型为DIST时生效，默认1 注意：此字段可能返回 null，表示取不到有效值。 */ InstancePerReplicas?: string; /** * 用于监控查询的Source 枚举值，部分情况下与CreateSource不同，通过该字段兼容 */ MonitorSource?: string; /** * 服务创建者的子账号名称 */ SubUinName?: string; /** * 服务的调度策略 */ SchedulingPolicy?: SchedulingPolicy; /** * 外部的资源组信息，表示借调了哪些资源组的资源 */ ExternalResourceGroups?: Array<ResourceGroupInfo>; /** * 服务所属的项目 id,0表示默认空间 */ ProjectId?: string; /** * 变更服务的子账户 */ Changer?: string; /** * 变更服务的子账户名称 */ ChangerName?: string; /** * 资源供应属性(潮汐/竞价等供应模式);空表示常规按量后付费 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceSupplyAttribute?: ResourceSupplyAttribute; } /** * 设备对应的镜像信息 */ export interface DeviceImageInfo { /** * 设备类型, 支持GPU等注意：此字段可能返回 null，表示取不到有效值。 */ DeviceType?: string; /** * 镜像信息注意：此字段可能返回 null，表示取不到有效值。 */ ImageInfo?: ImageInfo; } /** * 跨租户弹性网卡下Pod调用信息 */ export interface CrossTenantENIInfo { /** * Pod IP 注意：此字段可能返回 null，表示取不到有效值。 */ PrimaryIP?: string; /** * Pod Port 注意：此字段可能返回 null，表示取不到有效值。 */ Port?: string; } /** * 模型专业参数 */ export interface HyperParameter { /** * 最大nnz数注意：此字段可能返回 null，表示取不到有效值。 */ MaxNNZ?: string; /** * slot数注意：此字段可能返回 null，表示取不到有效值。 */ SlotNum?: string; /** * gpu cache 使用率注意：此字段可能返回 null，表示取不到有效值。 */ CpuCachePercentage?: string; /** * cpu cache 使用率注意：此字段可能返回 null，表示取不到有效值。 */ GpuCachePercentage?: string; /** * 是否开启分布式模式(true/false) 注意：此字段可能返回 null，表示取不到有效值。 */ EnableDistributed?: string; /** * TORCH_SCRIPT、MMDETECTION、DETECTRON2、HUGGINGFACE格式在进行优化时切分子图的最小算子数目，一般无需进行改动，默认为3 注意：此字段可能返回 null，表示取不到有效值。 */ MinBlockSizePt?: string; /** * FROZEN_GRAPH、SAVED_MODEL格式在进行优化时切分子图的最小算子数目，一般无需进行改动，默认为10 注意：此字段可能返回 null，表示取不到有效值。 */ MinBlockSizeTf?: string; /** * Stable Diffusion 模型优化参数注意：此字段可能返回 null，表示取不到有效值。 */ PipelineArgs?: string; /** * Stable Diffusion 模型优化参数，控制Lora模型的影响效果注意：此字段可能返回 null，表示取不到有效值。 */ LoraScale?: string; } /** * 工作空间绑定的资源组信息 */ export interface ResourceGroupInWorkspace { /** * 资源组ID */ ResourceGroupId?: string; /** * 资源组名称 */ ResourceGroupName?: string; /** * 地域 */ Region?: string; /** * 是否有运行中的任务/服务占用 */ Occupied?: boolean; } /** * DescribeDataSources请求参数结构体 */ export interface DescribeDataSourcesRequest { /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 过滤条件 */ Filters?: Array<Filter>; /** * 标签过滤条件 */ TagFilters?: Array<TagFilter>; /** * 偏移量 */ Offset?: number; /** * 分页大小 */ Limit?: number; /** * 排序的依据字段 */ OrderField?: string; /** * 输出列表的排列顺序。取值范围：ASC：升序排列 DESC：降序排列 */ Order?: string; } /** * CreateDataSource请求参数结构体 */ export interface CreateDataSourceRequest { /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 数据源名称 */ Name?: string; /** * 数据源类型英文名 */ Type?: string; /** * 数据源权限，取值有RW RO */ Permission?: string; /** * 存储实例ID */ StorageId?: string; /** * 数据源挂载配置 */ MountConfigure?: MountConfigureInfo; /** * 标签配置 */ Tags?: Array<Tag>; } /** * ModifyServiceGroupWeights请求参数结构体 */ export interface ModifyServiceGroupWeightsRequest { /** * 服务组id */ ServiceGroupId: string; /** * 权重设置 */ Weights: Array<WeightEntry>; } /** * DescribeTrainingTasks请求参数结构体 */ export interface DescribeTrainingTasksRequest { /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 过滤器，eg：[{ "Name": "Id", "Values": ["train-23091792777383936"] }] 取值范围： Name（名称）：task1 Id（task ID）：train-23091792777383936 Status（状态）：SUBMITTING/PENDING/STARTING / RUNNING / STOPPING / STOPPED / FAILED / SUCCEED / SUBMIT_FAILED ResourceGroupId（资源组 Id）：trsg-kvvfrwl7 Creator（创建者 uin）：100014761913 ChargeType（计费类型）：PREPAID（预付费）/ POSTPAID_BY_HOUR（后付费） CHARGE_STATUS（计费状态）：NOT_BILLING（未开始计费）/ BILLING（计费中）/ ARREARS_STOP（欠费停止） */ Filters?: Array<Filter>; /** * 标签过滤器，eg：[{ "TagKey": "TagKeyA", "TagValue": ["TagValueA"] }] */ TagFilters?: Array<TagFilter>; /** * 偏移量，默认为0 */ Offset?: number; /** * 返回数量，默认为10，最大为50 */ Limit?: number; /** * 输出列表的排列顺序。取值范围：ASC（升序排列）/ DESC（降序排列），默认为DESC */ Order?: string; /** * 排序的依据字段，取值范围 "CreateTime" 、"UpdateTime"、"StartTime"，默认为UpdateTime */ OrderField?: string; } /** * 滚动更新策略 */ export interface RollingUpdate { /** * 滚动更新的最大不可用 */ MaxUnavailable?: NumOrPercent; /** * 滚动更新的最大新增实例 */ MaxSurge?: NumOrPercent; } /** * 外部挂载信息 */ export interface VolumeMount { /** * cfs的配置信息 */ CFSConfig?: CFSConfig; /** * 挂载源类型，CFS、COS、PUBLIC_DATA_SOURCE，默认为CFS */ VolumeSourceType?: string; /** * 自定义容器内挂载路径 注意：此字段可能返回 null，表示取不到有效值。 */ MountPath?: string; /** * 挂载数据源时的配置信息 */ PublicDataSource?: PublicDataSourceFS; } /** * DescribeMountInstance返回参数结构体 */ export interface DescribeMountInstanceResponse { /** * 挂载的实例详情 */ MountInstance?: MountInstanceInfo; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * DescribeMountInstances请求参数结构体 */ export interface DescribeMountInstancesRequest { /** * 数据源类型英文名 */ Type: string; /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 偏移量 */ Offset?: number; /** * 分页大小 */ Limit?: number; } /** * ModifyNotebookTags返回参数结构体 */ export interface ModifyNotebookTagsResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * UpdateDataSource请求参数结构体 */ export interface UpdateDataSourceRequest { /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 数据源ID */ Id?: string; /** * 数据源名称 */ Name?: string; /** * 数据源权限，取值有RW RO */ Permission?: string; /** * 数据源挂载配置 */ MountConfigure?: MountConfigureInfo; } /** * DescribeBillingResourceGroup返回参数结构体 */ export interface DescribeBillingResourceGroupResponse { /** * 资源组节点总数；注意接口是分页拉取的，total是指资源组节点总数，不是本次返回中InstanceSet数组的大小注意：此字段可能返回 null，表示取不到有效值。 */ TotalCount?: number; /** * 资源组节点信息注意：此字段可能返回 null，表示取不到有效值。 */ InstanceSet?: Array<Instance>; /** * 资源组纳管类型 */ ResourceGroupSWType?: string; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * ModifyNotebookTags请求参数结构体 */ export interface ModifyNotebookTagsRequest { /** * Notebook Id */ Id: string; /** * Notebook修改标签集合 */ Tags?: Array<Tag>; } /** * 服务的调用信息，服务组下唯一 */ export interface ServiceCallInfo { /** * 服务组id 注意：此字段可能返回 null，表示取不到有效值。 */ ServiceGroupId?: string; /** * 内网http调用地址注意：此字段可能返回 null，表示取不到有效值。 */ InnerHttpAddr?: string; /** * 内网https调用地址注意：此字段可能返回 null，表示取不到有效值。 */ InnerHttpsAddr?: string; /** * 内网http调用地址注意：此字段可能返回 null，表示取不到有效值。 */ OuterHttpAddr?: string; /** * 内网https调用地址注意：此字段可能返回 null，表示取不到有效值。 */ OuterHttpsAddr?: string; /** * 调用key 注意：此字段可能返回 null，表示取不到有效值。 */ AppKey?: string; /** * 调用secret 注意：此字段可能返回 null，表示取不到有效值。 */ AppSecret?: string; /** * 鉴权是否开启注意：此字段可能返回 null，表示取不到有效值。 */ AuthorizationEnable?: boolean; } /** * cos的路径信息 */ export interface CosPathInfo { /** * 存储桶注意：此字段可能返回 null，表示取不到有效值。 */ Bucket: string; /** * 所在地域注意：此字段可能返回 null，表示取不到有效值。 */ Region: string; /** * 路径列表，目前只支持单个注意：此字段可能返回 null，表示取不到有效值。 */ Paths: Array<string>; } /** * DescribeBillingResourceGroups返回参数结构体 */ export interface DescribeBillingResourceGroupsResponse { /** * 资源组总数；注意接口是分页拉取的，total是指资源组总数，不是本次返回中ResourceGroupSet数组的大小 */ TotalCount?: number; /** * 资源组详情注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupSet?: Array<ResourceGroup>; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * DescribeTrainingTask请求参数结构体 */ export interface DescribeTrainingTaskRequest { /** * 训练任务ID */ Id: string; /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 训练任务实例ID */ InstanceId?: string; } /** * StartNotebook返回参数结构体 */ export interface StartNotebookResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 模型输入信息 */ export interface ModelInputInfo { /** * input数据类型 FIXED：固定 RANGE：浮动注意：此字段可能返回 null，表示取不到有效值。 */ ModelInputType: string; /** * input数据尺寸注意：此字段可能返回 null，表示取不到有效值。 */ ModelInputDimension: Array<string>; } /** * DescribeAnnotatedTaskList请求参数结构体 */ export interface DescribeAnnotatedTaskListRequest { /** * 偏移量，默认为0 */ Offset: number; /** * 页面大小，默认为10 */ Limit: number; /** * 过滤条件数组，支持数据集ID，标注场景、任务状态、数据集名称、人物名称的过滤，后面两个支持模糊查询 */ Filters?: Array<Filter>; /** * 标签过滤条件 */ TagFilters?: Array<TagFilter>; /** * 排序方向：Asc Desc */ Order?: string; /** * 排序字段 */ OrderField?: string; } /** * 配置CFSTurbo参数 */ export interface CFSTurbo { /** * CFSTurbo实例id 注意：此字段可能返回 null，表示取不到有效值。 */ Id?: string; /** * CFSTurbo路径注意：此字段可能返回 null，表示取不到有效值。 */ Path?: string; } /** * DescribeTrainingModelVersion请求参数结构体 */ export interface DescribeTrainingModelVersionRequest { /** * 模型版本ID */ TrainingModelVersionId: string; } /** * 资源组节点运行任务信息 */ export interface ResourceInstanceRunningJobInfo { /** * pod名称 注意：此字段可能返回 null，表示取不到有效值。 */ PodName?: string; /** * 任务类型 注意：此字段可能返回 null，表示取不到有效值。 */ TaskType?: string; /** * 任务id 注意：此字段可能返回 null，表示取不到有效值。 */ TaskId?: string; /** * 任务自定义名称 注意：此字段可能返回 null，表示取不到有效值。 */ TaskName?: string; } /** * 镜像列表过滤 */ export interface ImageFIlter { /** * 过滤字段名称 */ Name: string; /** * 过滤值 */ Values: Array<string>; /** * 是否反选 */ Negative?: boolean; } /** * 操作者信息 */ export interface OperatorInfo { /** * 操作者子账号 UIN */ SubUin?: string; /** * 操作者子账号名称 */ SubUinName?: string; /** * 是否为平台操作 */ IsPlatformOperator?: boolean; /** * 操作类型 */ OperationType?: string; } /** * 默认Nginx网关结构 */ export interface DefaultNginxGatewayCallInfo { /** * host 注意：此字段可能返回 null，表示取不到有效值。 */ Host?: string; } /** * CFS存储的配置 */ export interface CFSConfig { /** * cfs的实例的ID */ Id: string; /** * 存储的路径 */ Path: string; /** * cfs的挂载类型，可选值为：STORAGE、SOURCE 分别表示存储拓展模式和数据源模式，默认为 STORAGE 注意：此字段可能返回 null，表示取不到有效值。 */ MountType?: string; /** * 协议 1: NFS, 2: TURBO 注意：此字段可能返回 null，表示取不到有效值。 */ Protocol?: string; } /** * DescribeMountInstance请求参数结构体 */ export interface DescribeMountInstanceRequest { /** * 数据源类型英文名 */ Type: string; /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 存储实例ID */ StorageId?: string; } /** * StartNotebook请求参数结构体 */ export interface StartNotebookRequest { /** * notebook id */ Id: string; } /** * 用于表示百分比或数量 */ export interface NumOrPercent { /** * Num,Percent ,分别表示数量和百分比，默认为 Num */ Type?: string; /** * 数值 */ Value?: number; } /** * 推理镜像详情 */ export interface InferTemplate { /** * 模板ID */ InferTemplateId: string; /** * 模板镜像 */ InferTemplateImage: string; } /** * DescribeModelAccelerateVersions返回参数结构体 */ export interface DescribeModelAccelerateVersionsResponse { /** * 优化模型总数；注意接口是分页拉取的，total是指优化模型节点总数，不是本次返回中ModelAccelerateVersions数组的大小注意：此字段可能返回 null，表示取不到有效值。注意：此字段可能返回 null，表示取不到有效值。 */ TotalCount?: number; /** * 优化模型列表注意：此字段可能返回 null，表示取不到有效值。 */ ModelAccelerateVersions?: Array<ModelAccelerateVersion>; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * DescribeBuildInImages请求参数结构体 */ export interface DescribeBuildInImagesRequest { /** * 镜像过滤器 */ ImageFilters?: Array<ImageFIlter>; } /** * 数据源挂载配置 */ export interface MountConfigureInfo { /** * 数据源的相对路径，支持<@subaccount>这样的占位符 */ WorkDir?: string; } /** * StartTrainingTask请求参数结构体 */ export interface StartTrainingTaskRequest { /** * 训练任务ID */ Id: string; /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; } /** * DescribePlatformImages返回参数结构体 */ export interface DescribePlatformImagesResponse { /** * 数量 */ TotalCount?: number; /** * 镜像列表 */ PlatformImageInfos?: Array<PlatformImageInfo>; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 容器状态 */ export interface ContainerStatus { /** * 重启次数注意：此字段可能返回 null，表示取不到有效值。 */ RestartCount: number; /** * 状态注意：此字段可能返回 null，表示取不到有效值。 */ State: string; /** * 是否就绪注意：此字段可能返回 null，表示取不到有效值。 */ Ready: boolean; /** * 状态原因注意：此字段可能返回 null，表示取不到有效值。 */ Reason: string; /** * 容器的错误信息注意：此字段可能返回 null，表示取不到有效值。 */ Message: string; } /** * DescribeMountInstances返回参数结构体 */ export interface DescribeMountInstancesResponse { /** * 挂载的实例列表 */ MountInstances?: Array<MountInstanceInfo>; /** * 总条数 */ TotalCount?: number; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * UpdateMountLimit请求参数结构体 */ export interface UpdateMountLimitRequest { /** * 数据源类型英文名 */ Type: string; /** * 存储实例ID */ StorageId: string; /** * 限制开关是否开启，只有开启时才有限制，默认关闭 */ LimitMount: boolean; /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; } /** * ModifyModelService请求参数结构体 */ export interface ModifyModelServiceRequest { /** * 服务id */ ServiceId: string; /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 模型信息，需要挂载模型时填写 */ ModelInfo?: ModelInfo; /** * 镜像信息，配置服务运行所需的镜像地址等信息 */ ImageInfo?: ImageInfo; /** * 环境变量，可选参数，用于配置容器中的环境变量 */ Env?: Array<EnvVar>; /** * 资源描述，指定预付费模式下的cpu,mem,gpu等信息，后付费无需填写 */ Resources?: ResourceInfo; /** * 使用DescribeBillingSpecs接口返回的规格列表中的值，或者参考实例列表: TI.S.MEDIUM.POST 2C4G TI.S.LARGE.POST 4C8G TI.S.2XLARGE16.POST 8C16G TI.S.2XLARGE32.POST 8C32G TI.S.4XLARGE32.POST 16C32G TI.S.4XLARGE64.POST 16C64G TI.S.6XLARGE48.POST 24C48G TI.S.6XLARGE96.POST 24C96G TI.S.8XLARGE64.POST 32C64G TI.S.8XLARGE128.POST 32C128G TI.GN7.LARGE20.POST 4C20G T41/4 TI.GN7.2XLARGE40.POST 10C40G T41/2 TI.GN7.2XLARGE32.POST 8C32G T41 TI.GN7.5XLARGE80.POST 20C80G T41 TI.GN7.8XLARGE128.POST 32C128G T41 TI.GN7.10XLARGE160.POST 40C160G T42 TI.GN7.20XLARGE320.POST 80C320G T4*4 */ InstanceType?: string; /** * 扩缩容类型支持：自动 - "AUTO", 手动 - "MANUAL" */ ScaleMode?: string; /** * 实例数量, 不同计费模式和调节模式下对应关系如下 PREPAID 和 POSTPAID_BY_HOUR: 手动调节模式下对应实例数量 自动调节模式下对应基于时间的默认策略的实例数量 HYBRID_PAID: 后付费实例手动调节模式下对应实例数量 后付费实例自动调节模式下对应时间策略的默认策略的实例数量 */ Replicas?: number; /** * 自动伸缩信息 */ HorizontalPodAutoscaler?: HorizontalPodAutoscaler; /** * 是否开启日志投递，开启后需填写配置投递到指定cls */ LogEnable?: boolean; /** * 日志配置，需要投递服务日志到指定cls时填写 */ LogConfig?: LogConfig; /** * 特殊更新行为： "STOP": 停止, "RESUME": 重启, "SCALE": 扩缩容, 存在这些特殊更新行为时，会忽略其他更新字段 */ ServiceAction?: string; /** * 服务的描述 */ ServiceDescription?: string; /** * 自动伸缩策略 */ ScaleStrategy?: string; /** * 自动伸缩策略配置 HPA : 通过HPA进行弹性伸缩 CRON 通过定时任务进行伸缩 */ CronScaleJobs?: Array<CronScaleJob>; /** * 计费模式[HYBRID_PAID]时生效, 用于标识混合计费模式下的预付费实例数, 若不填则默认为1 */ HybridBillingPrepaidReplicas?: number; /** * 是否开启模型的热更新。默认不开启 */ ModelHotUpdateEnable?: boolean; /** * 定时停止配置 */ ScheduledAction?: ScheduledAction; /** * 服务限速限流相关配置 */ ServiceLimit?: ServiceLimit; /** * 挂载配置，目前只支持CFS */ VolumeMount?: VolumeMount; /** * 是否开启模型的加速, 仅对StableDiffusion(动态加速)格式的模型有效。默认不开启 */ ModelTurboEnable?: boolean; /** * 服务的启动命令，如遇特殊字符导致配置失败，可使用CommandBase64参数 */ Command?: string; /** * 是否开启TIONE内网访问外部，此功能仅支持后付费机型与从TIONE平台购买的预付费机型；使用从CVM选择资源组时此配置不生效。 */ ServiceEIP?: ServiceEIP; /** * 服务的启动命令，以base64格式进行输入，与Command同时配置时，仅当前参数生效 */ CommandBase64?: string; /** * 服务端口，仅在非内置镜像时生效，默认8501。不支持输入8501-8510,6006,9092 */ ServicePort?: number; /** * 单副本下的实例数，仅在部署类型为DIST时生效，默认1 */ InstancePerReplicas?: number; /** * 服务的优雅退出时限。单位为秒，默认值为30，最小为1 */ TerminationGracePeriodSeconds?: number; /** * 服务实例停止前执行的命令，执行完毕或执行时间超过优雅退出时限后实例结束 */ PreStopCommand?: Array<string>; /** * 是否启动grpc端口 */ GrpcEnable?: boolean; /** * 健康探针 */ HealthProbe?: HealthProbe; /** * 滚动更新策略 */ RollingUpdate?: RollingUpdate; /** * sidecar配置 */ Sidecar?: SidecarSpec; /** * 资源组 id */ ResourceGroupId?: string; /** * 数据盘批量挂载配置，当前仅支持CFS，仅针对“模型来源-腾讯云存储、模型来源-腾讯云容器镜像、模型来源-资源组、模型来源-数据源”。 */ VolumeMounts?: Array<VolumeMount>; /** * 调度策略 [binpack] 优先占满整机，尽量避免碎卡（默认值）[spread] 优先分散在各个节点，确保服务高可用 */ SchedulingStrategy?: string; /** * 目标工作空间，不为0则进行迁移，源服务只允许在默认空间 */ TargetProjectId?: number; } /** * ChatCompletion请求参数结构体 */ export interface ChatCompletionRequest { /** * 对话的目标模型ID。自行部署的开源大模型聊天：部署的模型服务组ID，形如ms-q7pfr29p。 */ Model: string; /** * 输入对话历史。旧的对话在前，数组中最后一项应该为这次的问题。 */ Messages: Array<Message>; /** * 仅当模型为自行部署的开源大模型时生效。采样随机值，默认值为0.7，取值范围[0,2]。较高的值(如0.8)将使输出更加随机，而较低的值(如0.2)将使输出更加确定。建议仅修改此参数或TopP，但不建议两者都修改。 */ Temperature?: number; /** * 仅当模型为自行部署的开源大模型时生效。核采样，默认值为1，取值范围[0,1]。指的是预先设置一个概率界限 p，然后将所有可能生成的token，根据概率大小从高到低排列，依次选取。当这些选取的token的累积概率大于或等于 p 值时停止，然后从已经选取的token中进行采样，生成下一个token。例如top_p为0.1时意味着模型只考虑累积概率为10%的token。建议仅修改此参数或Temperature，不建议两者都修改。 */ TopP?: number; /** * 仅当模型为自行部署的开源大模型时生效。默认 512，模型可生成内容的最长 token 数量，最大不能超过模型支持的上下文长度。 */ MaxTokens?: number; } /** * CreateMountLimit返回参数结构体 */ export interface CreateMountLimitResponse { /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 出参类型 */ export interface TrainingTaskSetItem { /** * 训练任务ID */ Id?: string; /** * 训练任务名称 */ Name?: string; /** * 框架名称 注意：此字段可能返回 null，表示取不到有效值。 */ FrameworkName?: string; /** * 训练框架版本 注意：此字段可能返回 null，表示取不到有效值。 */ FrameworkVersion?: string; /** * 框架运行环境 注意：此字段可能返回 null，表示取不到有效值。 */ FrameworkEnvironment?: string; /** * 计费模式 */ ChargeType?: string; /** * 计费状态，eg：BILLING计费中，ARREARS_STOP欠费停止，NOT_BILLING不在计费中 */ ChargeStatus?: string; /** * 预付费专用资源组 注意：此字段可能返回 null，表示取不到有效值。 */ ResourceGroupId?: string; /** * 资源配置 */ ResourceConfigInfos?: Array<ResourceConfigInfo>; /** * 训练模式eg：PS_WORKER、DDP、MPI、HOROVOD 注意：此字段可能返回 null，表示取不到有效值。 */ TrainingMode?: string; /** * 任务状态，eg：SUBMITTING提交中、PENDING排队中、 STARTING启动中、RUNNING运行中、STOPPING停止中、STOPPED已停止、FAILED异常、SUCCEED已完成 */ Status?: string; /** * 运行时长 注意：此字段可能返回 null，表示取不到有效值。 */ RuntimeInSeconds?: number; /** * 创建时间 */ CreateTime?: string; /** * 训练开始时间 注意：此字段可能返回 null，表示取不到有效值。 */ StartTime?: string; /** * 训练结束时间 注意：此字段可能返回 null，表示取不到有效值。 */ EndTime?: string; /** * 训练输出 */ Output?: CosPathInfo; /** * 失败原因 注意：此字段可能返回 null，表示取不到有效值。 */ FailureReason?: string; /** * 更新时间 */ UpdateTime?: string; /** * 计费金额信息，eg：2.00元/小时 (按量计费) */ BillingInfo?: string; /** * 预付费专用资源组名称 */ ResourceGroupName?: string; /** * 自定义镜像信息 注意：此字段可能返回 null，表示取不到有效值。 */ ImageInfo?: ImageInfo; /** * 任务信息 注意：此字段可能返回 null，表示取不到有效值。 */ Message?: string; /** * 标签配置 注意：此字段可能返回 null，表示取不到有效值。 */ Tags?: Array<Tag>; /** * 回调地址 注意：此字段可能返回 null，表示取不到有效值。 */ CallbackUrl?: string; /** * 任务subUin信息 注意：此字段可能返回 null，表示取不到有效值。 */ SubUin?: string; /** * 任务创建者名称 注意：此字段可能返回 null，表示取不到有效值。 */ SubUinName?: string; /** * 任务AppId */ AppId?: string; /** * 环境变量 */ Envs?: Array<EnvVar>; /** * 操作者信息 */ LatestOperatorInfo?: OperatorInfo; } /** * ModifyNotebook请求参数结构体 */ export interface ModifyNotebookRequest { /** * notebook id */ Id: string; /** * 名称。不超过60个字符，仅支持中英文、数字、下划线"_"、短横"-"，只能以中英文、数字开头 */ Name: string; /** * （不允许修改）计算资源付费模式，可选值为： PREPAID：预付费，即包年包月 POSTPAID_BY_HOUR：按小时后付费 */ ChargeType: string; /** * 计算资源配置 */ ResourceConf: ResourceConf; /** * 是否自动停止 */ AutoStopping: boolean; /** * 是否访问公网 */ DirectInternetAccess: boolean; /** * 是否ROOT权限 */ RootAccess: boolean; /** * 是否上报日志 */ LogEnable: boolean; /** * 资源组ID(for预付费) */ ResourceGroupId?: string; /** * （不允许修改）Vpc-Id */ VpcId?: string; /** * （不允许修改）子网Id */ SubnetId?: string; /** * 存储卷大小，单位GB */ VolumeSizeInGB?: number; /** * （不允许修改）存储的类型。取值包含： FREE: 预付费的免费存储 CLOUD_PREMIUM：高性能云硬盘 CLOUD_SSD： SSD云硬盘 CFS: CFS存储，包含NFS和turbo */ VolumeSourceType?: string; /** * （不允许修改）CFS存储的配置 */ VolumeSourceCFS?: CFSConfig; /** * 日志配置 */ LogConfig?: LogConfig; /** * 生命周期脚本的ID */ LifecycleScriptId?: string; /** * 默认GIT存储库的ID */ DefaultCodeRepoId?: string; /** * 其他GIT存储库的ID，最多3个 */ AdditionalCodeRepoIds?: Array<string>; /** * 自动停止时间，单位小时 */ AutomaticStopTime?: number; /** * 标签配置 */ Tags?: Array<Tag>; /** * 数据配置，只支持WEDATA_HDFS */ DataConfigs?: Array<DataConfig>; /** * 镜像信息 */ ImageInfo?: ImageInfo; /** * 镜像类型，包括SYSTEM、TCR、CCR */ ImageType?: string; /** * SSH配置 */ SSHConfig?: SSHConfig; /** * 自定义环境变量 */ Envs?: Array<EnvVar>; /** * 描述 */ Description?: string; } /** * DescribeModelServiceCallInfo请求参数结构体 */ export interface DescribeModelServiceCallInfoRequest { /** * 服务组id */ ServiceGroupId: string; /** * TI工作空间ID仅用于“工作空间”白名单功能。如需使用，请联系TI管理员开通白名单。 */ TiProjectId?: string; /** * 服务分类 * @deprecated */ ServiceCategory?: string; } /** * DescribeWorkspaces返回参数结构体 */ export interface DescribeWorkspacesResponse { /** * 总数 */ TotalCount?: number; /** * 工作空间列表 */ Workspaces?: Array<Workspace>; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 数据点 */ export interface DataPoint { /** * 指标名字 */ Name: string; /** * 值 */ Value: number; } /** * DescribeNotebook返回参数结构体 */ export interface DescribeNotebookResponse { /** * 详情 */ NotebookDetail?: NotebookDetail; /** * 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。 */ RequestId?: string; } /** * 太极服务的调用信息 */ export interface TJCallInfo { /** * 调用地址注意：此字段可能返回 null，表示取不到有效值。 */ HttpAddr?: string; /** * token 注意：此字段可能返回 null，表示取不到有效值。 */ Token?: string; /** * 调用示例注意：此字段可能返回 null，表示取不到有效值。 */ CallExample?: string; } /** * CBS存储配置 */ export interface CBSConfig { /** * 存储大小注意：此字段可能返回 null，表示取不到有效值。 */ VolumeSizeInGB: number; } /** * CreateTrainingModel请求参数结构体 */ export interface CreateTrainingModelRequest { /** * 导入方式 MODEL：导入新模型 VERSION：导入新版本 EXIST：导入现有版本 */ ImportMethod: string; /** * 推理环境来源（SYSTEM/CUSTOM） */ ReasoningEnvironmentSource: string; /** * 模型名称，不超过60个字符，仅支持中英文、数字、下划线"_"、短横"-"，只能以中英文、数字开头 */ TrainingModelName?: string; /** * 标签配置 */ Tags?: Array<Tag>; /** * 训练任务名称 */ TrainingJobName?: string; /** * 模型来源cos目录，以/结尾 */ TrainingModelCosPath?: CosPathInfo; /** * 算法框架（PYTORCH/TENSORFLOW/DETECTRON2/PMML/MMDETECTION/ONNX) */ AlgorithmFramework?: string; /** * 推理环境 */ ReasoningEnvironment?: string; /** * 训练指标，最多支持1000字符 */ TrainingModelIndex?: string; /** * 模型版本 */ TrainingModelVersion?: string; /** * 自定义推理环境 */ ReasoningImageInfo?: ImageInfo; /** * 模型移动方式（CUT/COPY） */ ModelMoveMode?: string; /** * 训练任务ID */ TrainingJobId?: string; /** * 模型ID（导入新模型不需要，导入新版本需要） */ TrainingModelId?: string; /** * 模型存储cos目录 */ ModelOutputPath?: CosPathInfo; /** * 模型来源（JOB/COS） */ TrainingModelSource?: string; /** * 模型偏好 */ TrainingPreference?: string; /** * 自动学习任务ID（已废弃） */ AutoMLTaskId?: string; /** * 任务版本 */ TrainingJobVersion?: string; /** * 模型版本类型；枚举值：NORMAL(通用) ACCELERATE(加速) 注意: 默认为NORMAL */ ModelVersionType?: strin