tenyun

/// <reference types="node" /> import { AxiosPromise, AxiosRequestConfig } from "axios"; /** 镜像属性 */ declare interface Attribute { /** 为‘List’时属性值取Values 否则取Value */ Type?: string | null; /** 属性key */ Key?: string | null; /** 属性值 */ Value?: string | null; /** 属性值列表 */ Values?: string[] | null; } /** 在线服务的 AuthToken 数据 */ declare interface AuthToken { /** AuthToken 基础信息 */ Base?: AuthTokenBase; /** AuthToken 限流数组 */ Limits?: AuthTokenLimit[]; } /** AuthToken 的基础信息 */ declare interface AuthTokenBase { /** token 值 */ Value?: string; /** token 别名 */ Name?: string; /** token 描述 */ Description?: string; /** token 创建时间 */ CreateTime?: string; /** token状态 */ Status?: string; } /** AuthToken 限流信息 */ declare interface AuthTokenLimit { /** 限频策略：PerMinute 每分钟限频；PerDay 每日限频 */ Strategy?: string; /** 上限值 */ Max?: number; } /** CBS存储配置 */ declare interface CBSConfig { /** 存储大小 */ VolumeSizeInGB: number | null; } /** CFS存储的配置 */ declare interface CFSConfig { /** cfs的实例的ID */ Id: string; /** 存储的路径 */ Path: string; /** cfs的挂载类型，可选值为：STORAGE、SOURCE 分别表示存储拓展模式和数据源模式，默认为 STORAGE */ MountType?: string | null; /** 协议 1: NFS, 2: TURBO */ Protocol?: string | null; } /** 配置CFSTurbo参数 */ declare interface CFSTurbo { /** CFSTurbo实例id */ Id?: string | null; /** CFSTurbo路径 */ Path?: string | null; } /** 对话结果 */ declare interface Choice { /** 对话结果 */ Message?: Message; /** 结束理由: stop, length, content_filter, null */ FinishReason?: string; /** 序号 */ Index?: number; } /** 代码仓库配置 */ declare interface CodeRepoConfig { /** 代码仓库Id */ Id: string; /** 代码仓下载目标地址 */ TargetPath: string; } /** 容器信息 */ declare interface Container { /** 名字 */ Name: string | null; /** id */ ContainerId: string | null; /** 镜像地址 */ Image: string | null; /** 容器状态 */ Status: ContainerStatus | null; } /** 容器状态 */ declare interface ContainerStatus { /** 重启次数 */ RestartCount: number | null; /** 状态 */ State: string | null; /** 是否就绪 */ Ready: boolean | null; /** 状态原因 */ Reason: string | null; /** 容器的错误信息 */ Message: string | null; } /** cos的路径信息 */ declare interface CosPathInfo { /** 存储桶 */ Bucket: string | null; /** 所在地域 */ Region: string | null; /** 路径列表，目前只支持单个 */ Paths: string[] | null; } /** 定时扩缩任务 */ declare interface CronScaleJob { /** Cron表达式，标识任务的执行时间，精确到分钟级 */ Schedule: string; /** 定时任务名 */ Name?: string | null; /** 目标实例数 */ TargetReplicas?: number | null; /** 目标min */ MinReplicas?: number | null; /** 目标max */ MaxReplicas?: number | null; /** 例外时间，Cron表达式，在对应时间内不执行任务。最多支持3条。 */ ExcludeDates?: string[] | null; } /** 跨租户弹性网卡下Pod调用信息 */ declare interface CrossTenantENIInfo { /** Pod IP */ PrimaryIP?: string | null; /** Pod Port */ Port?: string | null; } /** 数据配置 */ declare interface DataConfig { /** 映射路径 */ MappingPath?: string; /** 存储用途可选值为 BUILTIN_CODE, BUILTIN_DATA, BUILTIN_MODEL, USER_DATA, USER_CODE, USER_MODEL, OUTPUT, OTHER */ DataSourceUsage?: string | null; /** DATASET、COS、CFS、CFSTurbo、GooseFSx、HDFS、WEDATA_HDFS */ DataSourceType?: string | null; /** 来自数据集的数据 */ DataSetSource?: DataSetConfig | null; /** 来自cos的数据 */ COSSource?: CosPathInfo | null; /** 来自CFS的数据 */ CFSSource?: CFSConfig | null; /** 来自HDFS的数据 */ HDFSSource?: HDFSConfig | null; /** 配置GooseFS的数据 */ GooseFSSource?: GooseFS | null; /** 配置TurboFS的数据 */ CFSTurboSource?: CFSTurbo | null; /** 来自本地磁盘的信息 */ LocalDiskSource?: LocalDisk | null; /** CBS配置信息 */ CBSSource?: CBSConfig | null; /** 主机路径信息 */ HostPathSource?: HostPath; } /** 数据点 */ declare interface DataPoint { /** 指标名字 */ Name: string; /** 值 */ Value: number; } /** 数据集结构体 */ declare interface DataSetConfig { /** 数据集ID */ Id: string; } /** 数据集组 */ declare interface DatasetGroup { /** 数据集ID */ DatasetId?: string | null; /** 数据集名称 */ DatasetName?: string | null; /** 创建者 */ Creator?: string | null; /** 数据集版本 */ DatasetVersion?: string | null; /** 数据集类型 */ DatasetType?: string | null; /** 数据集标签 */ DatasetTags?: Tag[] | null; /** 数据集标注任务名称 */ DatasetAnnotationTaskName?: string | null; /** 数据集标注任务ID */ DatasetAnnotationTaskId?: string | null; /** 处理进度 */ Process?: number | null; /** 数据集状态 */ DatasetStatus?: string | null; /** 错误详情 */ ErrorMsg?: string | null; /** 创建时间 */ CreateTime?: string | null; /** 更新时间 */ UpdateTime?: string | null; /** 外部关联TASKType */ ExternalTaskType?: string | null; /** 数据集大小 */ DatasetSize?: string | null; /** 数据集数据量 */ FileNum?: number | null; /** 数据集源COS路径 */ StorageDataPath?: CosPathInfo | null; /** 数据集标签存储路径 */ StorageLabelPath?: CosPathInfo | null; /** 数据集版本聚合详情 */ DatasetVersions?: DatasetInfo[] | null; /** 数据集标注状态 */ AnnotationStatus?: string | null; /** 数据集类型 */ AnnotationType?: string | null; /** 数据集标注格式 */ AnnotationFormat?: string | null; /** 数据集范围 */ DatasetScope?: string | null; /** 数据集OCR子场景 */ OcrScene?: string | null; /** 数据集字典修改状态 */ AnnotationKeyStatus?: string | null; /** 文本数据集导入方式 */ ContentType?: string | null; /** 数据集建模类别。 */ DatasetScene?: string | null; /** CFS配置 */ CFSConfig?: CFSConfig | null; /** 数据集标签 */ SceneTags?: string[] | null; /** 已标注数量 */ NumAnnotated?: number | null; /** 标注规范 */ AnnotationSpecification?: string | null; /** 标注Schema是否配置 */ AnnotationSchemaConfigured?: boolean | null; /** 创建者名称 */ CreatorNickname?: string | null; /** cfs路径是否有修改 */ IsCfsUpdated?: boolean | null; } /** 数据集详情 */ declare interface DatasetInfo { /** 数据集id */ DatasetId?: string | null; /** 数据集名称 */ DatasetName?: string | null; /** 数据集创建者 */ Creator?: string | null; /** 数据集版本 */ DatasetVersion?: string | null; /** 数据集类型 */ DatasetType?: string | null; /** 数据集标签 */ DatasetTags?: Tag[] | null; /** 数据集对应标注任务名称 */ DatasetAnnotationTaskName?: string | null; /** 数据集对应标注任务ID */ DatasetAnnotationTaskId?: string | null; /** 处理进度 */ Process?: number | null; /** 数据集状态 */ DatasetStatus?: string | null; /** 错误详情 */ ErrorMsg?: string | null; /** 数据集创建时间 */ CreateTime?: string | null; /** 数据集更新时间 */ UpdateTime?: string | null; /** 外部任务类型 */ ExternalTaskType?: string | null; /** 数据集存储大小 */ DatasetSize?: string | null; /** 数据集数据数量 */ FileNum?: number | null; /** 数据集源cos 路径 */ StorageDataPath?: CosPathInfo | null; /** 数据集输出cos路径 */ StorageLabelPath?: CosPathInfo | null; /** 数据集标注状态 */ AnnotationStatus?: string | null; /** 数据集类型 */ AnnotationType?: string | null; /** 数据集标注格式 */ AnnotationFormat?: string | null; /** 数据集范围 */ DatasetScope?: string | null; /** 数据集OCR子场景 */ OcrScene?: string | null; /** 数据集字典修改状态 */ AnnotationKeyStatus?: string | null; /** 内容类型 */ ContentType?: string | null; /** 数据集建模类别。 */ DatasetScene?: string | null; /** CFS配置 */ CFSConfig?: CFSConfig | null; /** 数据集标签 */ SceneTags?: string[] | null; /** 已标注数量 */ NumAnnotated?: number | null; /** 标注规范 */ AnnotationSpecification?: string | null; /** 标注Schema是否配置 */ AnnotationSchemaConfigured?: boolean | null; /** 创建者名称 */ CreatorNickname?: string | null; /** cfs路径是否有修改 */ IsCfsUpdated?: boolean | null; } /** 默认内网调用信息 */ declare interface DefaultInnerCallInfo { /** 可以进行调用的VPC-ID */ VpcIds?: string[] | null; /** 默认内网调用地址 */ InnerHttpAddr?: string | null; } /** 默认Nginx网关结构 */ declare interface DefaultNginxGatewayCallInfo { /** host */ Host?: string | null; } /** 编码后的启动命令信息 */ declare interface EncodedStartCmdInfo { /** 任务的启动命令，以base64格式输入，注意转换时需要完整输入{"StartCmd":"","PsStartCmd":"","WorkerStartCmd":""} */ StartCmdInfo?: string; } /** 环境变量 */ declare interface EnvVar { /** 环境变量key */ Name?: string | null; /** 环境变量value */ Value?: string | null; } /** K8s的Event */ declare interface Event { /** 事件的id */ Id: string | null; /** 事件的具体信息 */ Message: string | null; /** 事件第一次发生的时间 */ FirstTimestamp: string | null; /** 事件最后一次发生的时间 */ LastTimestamp: string | null; /** 事件发生的次数 */ Count: number | null; /** 事件的类型 */ Type: string | null; /** 事件关联的资源的类型 */ ResourceKind: string | null; /** 事件关联的资源的名字 */ ResourceName: string | null; } /** 执行命令探针检查行为 */ declare interface ExecAction { /** 执行命令列表 */ Command?: string[]; } /** 过滤器 */ declare interface Filter { /** 过滤字段名称 */ Name?: string; /** 过滤字段取值 */ Values?: string[]; /** 是否开启反向查询 */ Negative?: boolean; /** 是否开启模糊匹配 */ Fuzzy?: boolean; } /** 配置GooseFS参数 */ declare interface GooseFS { /** goosefs实例id */ Id?: string | null; /** GooseFS类型，包括GooseFS和GooseFSx */ Type?: string | null; /** GooseFSx实例需要挂载的路径 */ Path?: string | null; /** GooseFS命名空间 */ NameSpace?: string | null; } /** GosseFSx的配置 */ declare interface GooseFSx { /** goosefsx实例id */ Id?: string; /** GooseFSx实例需要挂载的路径 */ Path?: string; } /** gpu 详情 */ declare interface GpuDetail { /** GPU 显卡类型；枚举值: V100 A100 T4 */ Name?: string | null; /** GPU 显卡数；单位为1/100卡，比如100代表1卡 */ Value?: number | null; } /** 资源信息 */ declare interface GroupResource { /** CPU核数; 单位为1/1000核，比如100表示0.1核 */ Cpu?: number; /** 内存；单位为MB */ Memory?: number; /** 总卡数；GPUDetail 显卡数之和；单位为1/100卡，比如100代表1卡 */ Gpu?: number | null; /** Gpu详情 */ GpuDetailSet?: GpuDetail[] | null; } /** HDFS的参数配置 */ declare interface HDFSConfig { /** 集群实例ID,实例ID形如: emr-xxxxxxxx */ Id: string; /** 路径 */ Path: string; } /** http get 行为 */ declare interface HTTPGetAction { /** http 路径 */ Path?: string; /** 调用端口 */ Port?: number; } /** 健康探针 */ declare interface HealthProbe { /** 存活探针 */ LivenessProbe?: Probe; /** 就绪探针 */ ReadinessProbe?: Probe; /** 启动探针 */ StartupProbe?: Probe; } /** hpa的描述 */ declare interface HorizontalPodAutoscaler { /** 最小实例数 */ MinReplicas: number | null; /** 最大实例数 */ MaxReplicas: number | null; /** 支持："gpu-util": GPU利用率。范围{10, 100} "cpu-util": CPU利用率。范围{10, 100} "memory-util": 内存利用率。范围{10, 100} "service-qps": 单个实例QPS值。范围{1, 5000}"concurrency-util":单个实例请求数量值。范围{1,100000} */ HpaMetrics: Option[] | null; /** 扩容观察期，单位秒 */ ScaleUpStabilizationWindowSeconds?: number; /** 缩容观察期，单位秒 */ ScaleDownStabilizationWindowSeconds?: number; } /** 主机路径挂载配置 */ declare interface HostPath { /** 需要挂载的主机路径 */ Path?: string; } /** 模型专业参数 */ declare interface HyperParameter { /** 最大nnz数 */ MaxNNZ?: string | null; /** slot数 */ SlotNum?: string | null; /** gpu cache 使用率 */ CpuCachePercentage?: string | null; /** cpu cache 使用率 */ GpuCachePercentage?: string | null; /** 是否开启分布式模式(true/false) */ EnableDistributed?: string | null; /** TORCH_SCRIPT、MMDETECTION、DETECTRON2、HUGGINGFACE格式在进行优化时切分子图的最小算子数目，一般无需进行改动，默认为3 */ MinBlockSizePt?: string | null; /** FROZEN_GRAPH、SAVED_MODEL格式在进行优化时切分子图的最小算子数目，一般无需进行改动，默认为10 */ MinBlockSizeTf?: string | null; /** Stable Diffusion 模型优化参数 */ PipelineArgs?: string | null; /** Stable Diffusion 模型优化参数，控制Lora模型的影响效果 */ LoraScale?: string | null; } /** 镜像列表过滤 */ declare interface ImageFIlter { /** 过滤字段名称 */ Name: string; /** 过滤值 */ Values: string[]; /** 是否反选 */ Negative?: boolean; } /** 镜像描述信息 */ declare interface ImageInfo { /** 镜像类型：TCR为腾讯云TCR镜像; CCR为腾讯云TCR个人版镜像，PreSet为平台预置镜像，CUSTOM为第三方自定义镜像 */ ImageType: string; /** 镜像地址 */ ImageUrl: string; /** TCR镜像对应的地域 */ RegistryRegion?: string | null; /** TCR镜像对应的实例id */ RegistryId?: string | null; /** 是否允许导出全部内容 */ AllowSaveAllContent?: boolean | null; /** 镜像名称 */ ImageName?: string | null; /** 是否支持数据构建 */ SupportDataPipeline?: boolean | null; } /** 多模态对话图片信息 */ declare interface ImageUrl { /** 图片url */ Url?: string; } /** 推理代码的信息 */ declare interface InferCodeInfo { /** 推理代码所在的cos详情 */ CosPathInfo: CosPathInfo | null; } /** 服务的调用信息，服务组下唯一 */ declare interface InferGatewayCallInfo { /** 内网http调用地址 */ VpcHttpAddr: string | null; /** 内网https调用地址 */ VpcHttpsAddr: string | null; /** 内网grpc调用地址 */ VpcGrpcTlsAddr: string | null; /** 可访问的vpcid */ VpcId: string | null; /** 后端ip对应的子网 */ SubnetId: string | null; } /** 推理镜像详情 */ declare interface InferTemplate { /** 模板ID */ InferTemplateId: string; /** 模板镜像 */ InferTemplateImage: string; } /** 推理镜像组 */ declare interface InferTemplateGroup { /** 算法框架 */ Framework: string | null; /** 版本号 */ FrameworkVersion: string | null; /** 支持的训练框架集合 */ Groups: string[] | null; /** 镜像模板参数列表 */ InferTemplates: InferTemplate[] | null; } /** 私有连接通道信息 */ declare interface IngressPrivateLinkInfo { /** 用户VpcId */ VpcId?: string | null; /** 用户子网ID */ SubnetId?: string | null; /** 内网http调用地址 */ InnerHttpAddr?: string[] | null; /** 内网https调用地址 */ InnerHttpsAddr?: string[] | null; /** 私有连接状态 */ State?: string | null; } /** 资源组节点信息 */ declare interface Instance { /** 资源组节点id */ InstanceId?: string; /** 节点已用资源 */ UsedResource?: ResourceInfo | null; /** 节点总资源 */ TotalResource?: ResourceInfo | null; /** 节点状态注意：此字段为枚举值说明: DEPLOYING: 部署中RUNNING: 运行中 DEPLOY_FAILED: 部署失败RELEASING 释放中 RELEASED：已释放 EXCEPTION：异常DEBT_OR_EXPIRED: 欠费过期 */ InstanceStatus?: string | null; /** 创建人 */ SubUin?: string; /** 创建时间: 注意：北京时间，比如: 2021-12-01 12:00:00 */ CreateTime?: string | null; /** 到期时间注意：北京时间，比如：2021-12-11 12:00:00 */ ExpireTime?: string | null; /** 自动续费标识注意：此字段为枚举值说明：NOTIFY_AND_MANUAL_RENEW：手动续费(取消自动续费)且到期通知NOTIFY_AND_AUTO_RENEW：自动续费且到期通知DISABLE_NOTIFY_AND_MANUAL_RENEW：手动续费(取消自动续费)且到期不通知 */ AutoRenewFlag?: string | null; /** 计费项ID */ SpecId?: string; /** 计费项别名 */ SpecAlias?: string; /** 计费项特性列表 */ SpecFeatures?: string[] | null; /** 纳管cvmid */ CvmInstanceId?: string; /** 部署失败错误码 */ ErrCode?: string | null; /** 部署失败错误信息 */ ErrMsg?: string | null; } /** 内网调用信息 */ declare interface IntranetCallInfo { /** 私有连接通道信息 */ IngressPrivateLinkInfo?: IngressPrivateLinkInfo | null; /** 共享弹性网卡信息 */ ServiceEIPInfo?: ServiceEIPInfo[] | null; /** 默认内网调用信息 */ DefaultInnerCallInfos?: DefaultInnerCallInfo[] | null; /** 私有连接信息 */ PrivateLinkInfos?: PrivateLinkInfo[] | null; /** 基于新网关的私有连接信息 */ PrivateLinkInfosV2?: PrivateLinkInfo[] | null; } /** 本地磁盘信息 */ declare interface LocalDisk { /** 节点ID */ InstanceId: string | null; /** 本地路径 */ LocalPath?: string | null; } /** 日志配置 */ declare interface LogConfig { /** 日志需要投递到cls的日志集 */ LogsetId: string | null; /** 日志需要投递到cls的主题 */ TopicId: string | null; } /** 单条日志数据结构 */ declare interface LogIdentity { /** 单条日志的ID */ Id: string | null; /** 单条日志的内容 */ Message: string | null; /** 这条日志对应的Pod名称 */ PodName: string | null; /** 日志的时间戳（RFC3339格式的时间字符串） */ Timestamp: string | null; } /** 对话输入内容 */ declare interface Message { /** 角色名。支持三个角色：system、user、assistant，其中system仅开头可出现一次，也可忽略。 */ Role: string; /** 对话输入内容。 */ Content?: string; /** 多模态对话输入内容，Content与MultiModalContents两者只需要填写其中一个即可，当对话中包含多模态对话信息时，则填写本参数 */ MultiModalContents?: MultiModalContent[]; } /** 指标数据 */ declare interface MetricData { /** 训练任务id */ TaskId: string; /** 时间戳.unix timestamp,单位为秒 */ Timestamp?: number | null; /** 用户uin */ Uin?: string | null; /** 本次上报数据所处的训练周期数。 */ Epoch?: number | null; /** 本次上报数据所处的训练迭代次数。 */ Step?: number | null; /** 训练停止所需的迭代总数。 */ TotalSteps?: number | null; /** 数据点。数组元素为不同指标的数据。数组长度不超过10。 */ Points?: DataPoint[] | null; } /** 模型加速任务 */ declare interface ModelAccelerateTask { /** 模型加速任务ID */ ModelAccTaskId?: string | null; /** 模型加速任务名称 */ ModelAccTaskName?: string | null; /** 模型ID */ ModelId?: string | null; /** 模型名称 */ ModelName?: string | null; /** 模型版本 */ ModelVersion?: string | null; /** 模型来源 */ ModelSource?: string | null; /** 优化级别 */ OptimizationLevel?: string | null; /** 任务状态 */ TaskStatus?: string | null; /** input节点个数 */ ModelInputNum?: number | null; /** input节点信息 */ ModelInputInfos?: ModelInputInfo[] | null; /** GPU型号 */ GPUType?: string | null; /** 计费模式 */ ChargeType?: string | null; /** 加速比 */ Speedup?: string | null; /** 模型输入cos路径 */ ModelInputPath?: CosPathInfo | null; /** 模型输出cos路径 */ ModelOutputPath?: CosPathInfo | null; /** 错误信息 */ ErrorMsg?: string | null; /** 算法框架 */ AlgorithmFramework?: string | null; /** 排队个数 */ WaitNumber?: number | null; /** 创建时间 */ CreateTime?: string | null; /** 任务进度 */ TaskProgress?: number | null; /** 模型格式 */ ModelFormat?: string | null; /** 模型Tensor信息 */ TensorInfos?: string[] | null; /** 模型专业参数 */ HyperParameter?: HyperParameter | null; /** 加速引擎版本 */ AccEngineVersion?: string | null; /** 标签 */ Tags?: Tag[] | null; /** 优化模型是否已保存到模型仓库 */ IsSaved?: boolean | null; /** SAVED_MODEL保存时配置的签名 */ ModelSignature?: string | null; /** 是否是QAT模型 */ QATModel?: boolean | null; /** 加速引擎对应的框架版本 */ FrameworkVersion?: string | null; /** 模型版本ID */ ModelVersionId?: string | null; /** 资源组id */ ResourceGroupId?: string | null; /** 资源组名称 */ ResourceGroupName?: string | null; } /** 优化模型版本列表 */ declare interface ModelAccelerateVersion { /** 模型id */ ModelId: string | null; /** 优化模型版本id */ ModelVersionId: string | null; /** 优化任务id */ ModelJobId: string | null; /** 优化任务名称 */ ModelJobName: string | null; /** 优化后模型版本 */ ModelVersion: string | null; /** 加速比 */ SpeedUp: string | null; /** 模型来源/任务名称/任务版本 */ ModelSource: ModelSource | null; /** 模型cos路径 */ CosPathInfo: CosPathInfo | null; /** 创建时间 */ CreateTime: string | null; /** 模型规范 */ ModelFormat: string | null; /** 状态 */ Status: string | null; /** 进度 */ Progress: number | null; /** 错误信息 */ ErrorMsg: string | null; /** GPU类型 */ GPUType: string | null; /** 模型cos路径 */ ModelCosPath: CosPathInfo | null; } /** 模型描述信息 */ declare interface ModelInfo { /** 模型版本id, DescribeTrainingModelVersion查询模型接口时的id自动学习类型的模型填写自动学习的任务id */ ModelVersionId: string; /** 模型id */ ModelId?: string; /** 模型名 */ ModelName?: string; /** 模型版本 */ ModelVersion?: string; /** 模型来源 */ ModelSource?: string; /** cos路径信息 */ CosPathInfo?: CosPathInfo; /** GooseFSx的配置，ModelSource为GooseFSx时有效 */ GooseFSx?: GooseFSx; /** 模型对应的算法框架，预留 */ AlgorithmFramework?: string | null; /** 默认为 NORMAL, 已加速模型: ACCELERATE, 自动学习模型 AUTO_ML */ ModelType?: string | null; /** 模型格式 */ ModelFormat?: string | null; /** 是否为私有化大模型 */ IsPrivateModel?: boolean | null; /** 模型的类别多模态MultiModal, 文本大模型 LLM */ ModelCategory?: string; /** 数据源的配置 */ PublicDataSource?: PublicDataSourceFS; } /** 模型输入信息 */ declare interface ModelInputInfo { /** input数据类型FIXED：固定RANGE：浮动 */ ModelInputType: string | null; /** input数据尺寸 */ ModelInputDimension: string[] | null; } /** 模型来源 */ declare interface ModelSource { /** 来源 */ Source: string | null; /** 来源任务名称 */ JobName: string | null; /** 来源任务版本 */ JobVersion: string | null; /** 来源任务id */ JobId: string | null; /** 模型名称 */ ModelName: string | null; /** 算法框架 */ AlgorithmFramework: string | null; /** 训练偏好 */ TrainingPreference: string | null; /** 推理环境来源，SYSTEM/CUSTOM */ ReasoningEnvironmentSource: string | null; /** 推理环境 */ ReasoningEnvironment: string | null; /** 推理环境id */ ReasoningEnvironmentId: string | null; /** 自定义推理环境 */ ReasoningImageInfo: ImageInfo | null; } /** 多模态对话内容,支持图片与文字信息 */ declare interface MultiModalContent { /** 对话类型，text表示文本对话内容，image_url表示图片对话内容 */ Type: string; /** 文本对话内容，当Type为text时需要填写该值 */ Text?: string; /** 图片对话内容，当Type为image_url时需要填写该值 */ ImageUrl?: ImageUrl; } /** 类型NotebookDetail */ declare interface NotebookDetail { /** notebook ID */ Id?: string; /** notebook 名称 */ Name?: string; /** 生命周期脚本 */ LifecycleScriptId?: string | null; /** Pod-Name */ PodName?: string | null; /** Update-Time */ UpdateTime?: string; /** 是否访问公网 */ DirectInternetAccess?: boolean; /** 预付费专用资源组 */ ResourceGroupId?: string | null; /** 标签配置 */ Tags?: Tag[] | null; /** 是否自动停止 */ AutoStopping?: boolean; /** 其他GIT存储库，最多3个，单个长度不超过512字符 */ AdditionalCodeRepoIds?: string[] | null; /** 自动停止时间，单位小时 */ AutomaticStopTime?: number | null; /** 资源配置 */ ResourceConf?: ResourceConf; /** 默认GIT存储库，长度不超过512字符 */ DefaultCodeRepoId?: string; /** 训练输出 */ EndTime?: string | null; /** 是否上报日志 */ LogEnable?: boolean; /** 日志配置 */ LogConfig?: LogConfig | null; /** VPC ID */ VpcId?: string | null; /** 子网ID */ SubnetId?: string | null; /** 任务状态 */ Status?: string; /** 运行时长 */ RuntimeInSeconds?: number | null; /** 创建时间 */ CreateTime?: string; /** 训练开始时间 */ StartTime?: string | null; /** 计费状态，eg：BILLING计费中，ARREARS_STOP欠费停止，NOT_BILLING不在计费中 */ ChargeStatus?: string | null; /** 是否ROOT权限 */ RootAccess?: boolean; /** 计贺金额信息，eg:2.00元/小时 */ BillingInfos?: string[] | null; /** 存储卷大小（单位时GB，最小10GB，必须是10G的倍数） */ VolumeSizeInGB?: number | null; /** 失败原因 */ FailureReason?: string | null; /** 计算资源付费模式 (- PREPAID：预付费，即包年包月 - POSTPAID_BY_HOUR：按小时后付费) */ ChargeType?: string; /** 后付费资源规格说明 */ InstanceTypeAlias?: string | null; /** 预付费资源组名称 */ ResourceGroupName?: string | null; /** 存储的类型。取值包含： FREE: 预付费的免费存储 CLOUD_PREMIUM：高性能云硬盘 CLOUD_SSD： SSD云硬盘 CFS: CFS存储，包含NFS和turbo */ VolumeSourceType?: string | null; /** CFS存储的配置 */ VolumeSourceCFS?: CFSConfig | null; /** 数据配置 */ DataConfigs?: DataConfig[] | null; /** notebook 信息 */ Message?: string | null; /** 数据源来源，eg：WeData_HDFS */ DataSource?: string | null; /** 镜像信息 */ ImageInfo?: ImageInfo; /** 镜像类型 */ ImageType?: string | null; /** SSH配置 */ SSHConfig?: SSHConfig | null; /** GooseFS存储配置 */ VolumeSourceGooseFS?: GooseFS | null; /** 子用户ID */ SubUin?: string; /** 调度节点ID */ ResourceGroupInstanceId?: string; /** 子用户名称 */ SubUinName?: string; /** 任务实例创建时间 */ JobCreateTime?: string; /** Appid */ AppId?: string | null; } /** Notebook列表元素 */ declare interface NotebookSetItem { /** notebook ID */ Id?: string; /** notebook 名称 */ Name?: string; /** 计费模式 */ ChargeType?: string; /** 资源配置 */ ResourceConf?: ResourceConf; /** 预付费资源组 */ ResourceGroupId?: string | null; /** 存储卷大小 */ VolumeSizeInGB?: number | null; /** 计费金额信息，eg：2.00元/小时 (for后付费) */ BillingInfos?: string[] | null; /** 标签配置 */ Tags?: Tag[] | null; /** 创建时间 */ CreateTime?: string; /** 启动时间 */ StartTime?: string | null; /** 更新时间 */ UpdateTime?: string; /** 运行时间 */ RuntimeInSeconds?: number | null; /** 计费状态 */ ChargeStatus?: string | null; /** 状态 */ Status?: string; /** 错误原因 */ FailureReason?: string | null; /** 结束时间 */ EndTime?: string | null; /** Pod名称 */ PodName?: string | null; /** 后付费资源规格名称 */ InstanceTypeAlias?: string | null; /** 预付费资源组名称 */ ResourceGroupName?: string | null; /** 是否自动终止 */ AutoStopping?: boolean; /** 自动停止时间 */ AutomaticStopTime?: number | null; /** 存储的类型。取值包含： FREE: 预付费的免费存储 CLOUD_PREMIUM：高性能云硬盘 CLOUD_SSD： SSD云硬盘 CFS: CFS存储，包含NFS和turbo */ VolumeSourceType?: string | null; /** CFS存储的配置 */ VolumeSourceCFS?: CFSConfig | null; /** notebook 信息 */ Message?: string | null; /** notebook用户类型 */ UserTypes?: string[] | null; /** SSH配置 */ SSHConfig?: SSHConfig | null; /** GooseFS存储配置 */ VolumeSourceGooseFS?: GooseFS | null; /** 子用户ID */ SubUin?: string | null; /** 子用户名称 */ SubUinName?: string; /** AppId */ AppId?: string | null; } /** 用于表示百分比或数量 */ declare interface NumOrPercent { /** Num,Percent ,分别表示数量和百分比，默认为 Num */ Type?: string; /** 数值 */ Value?: number; } /** 键值对 */ declare interface Option { /** 指标名 */ Name: string; /** 指标值 */ Value: number; } /** 平台镜像信息详情 */ declare interface PlatformImageInfo { /** 框架名 */ Framework?: string | null; /** 镜像类型: ccr or tcr */ ImageType?: string | null; /** 镜像地址 */ ImageUrl?: string | null; /** TCR镜像示例所属地域 */ RegistryRegion?: string | null; /** TCR镜像所属实例ID */ RegistryId?: string | null; /** 镜像名称 */ ImageName?: string | null; /** 镜像Id */ ImageId?: string | null; /** 框架版本 */ FrameworkVersion?: string | null; /** 支持的gpu列表 */ SupportGpuList?: string[] | null; /** 描述信息 */ Description?: string | null; /** 业务属性 */ ExtraAttributes?: Attribute[] | null; /** 镜像适用场景Train/Inference/Notebook */ ImageRange?: string[] | null; /** 是否支持分布式部署 */ SupportDistributedDeploy?: boolean | null; /** 支持的地域 all(所有地域)/autonomous(自动驾驶地域)/general(通用地域) */ RegionScope?: string | null; } /** Pod信息展示 */ declare interface Pod { /** pod名 */ Name?: string | null; /** pod的唯一id */ Uid?: string | null; /** 服务付费模式 */ ChargeType?: string | null; /** pod的状态 */ Phase?: string | null; /** pod的IP */ IP?: string | null; /** pod的创建时间 */ CreateTime?: string | null; /** 容器列表 */ Containers?: Container | null; /** 容器列表 */ ContainerInfos?: Container[] | null; /** 容器调用信息 */ CrossTenantENIInfo?: CrossTenantENIInfo | null; /** 实例的状态信息 */ Status?: string; /** 实例的开始调度时间 */ StartScheduleTime?: string; /** 实例状态的补充信息 */ Message?: string; /** 当前实例所在的节点 IP */ NodeIP?: string; /** 当前实例所在节点id */ NodeId?: string; /** 当时实例所属资源组 id */ ResourceGroupId?: string; /** 资源组名称 */ ResourceGroupName?: string; /** 实例的资源占用信息 */ ResourceInfo?: ResourceInfo; } /** 任务建模Pod信息 */ declare interface PodInfo { /** pod名 */ Name?: string | null; /** pod的IP */ IP?: string | null; /** pod状态。eg：SUBMITTING提交中、PENDING排队中、RUNNING运行中、SUCCEEDED已完成、FAILED异常、TERMINATING停止中、TERMINATED已停止 */ Status?: string | null; /** pod启动时间 */ StartTime?: string | null; /** pod结束时间 */ EndTime?: string | null; /** pod资源配置 */ ResourceConfigInfo?: ResourceConfigInfo | null; /** Pod所属任务的SubUin信息 */ SubUin?: string | null; } /** 私有连接信息 */ declare interface PrivateLinkInfo { /** 私有连接所在的VPCID */ VpcId?: string | null; /** 私有连接所在的子网ID */ SubnetId?: string | null; /** HTTP内网调用地址 */ InnerHttpAddr?: string[] | null; /** HTTPS内网调用地址 */ InnerHttpsAddr?: string[] | null; /** 私有连接状态 */ State?: string | null; /** grpc内网调用地址 */ InnerGrpcAddr?: string[]; } /** 探针结构信息 */ declare interface Probe { /** 探针行为 */ ProbeAction?: ProbeAction; /** 等待服务启动的延迟 */ InitialDelaySeconds?: number; /** 轮询检查时间间隔 */ PeriodSeconds?: number; /** 检查超时时长 */ TimeoutSeconds?: number; /** 检测失败认定次数 */ FailureThreshold?: number; /** 检测成功认定次数，就绪默认 3，存活/启动默认 1 */ SuccessThreshold?: number; } /** 探针行为 */ declare interface ProbeAction { /** http get 行为 */ HTTPGet?: HTTPGetAction; /** 执行命令检查行为 */ Exec?: ExecAction; /** tcp socket 检查行为 */ TCPSocket?: TCPSocketAction; /** 探针类型，默认 HTTPGet，可选值：HTTPGet、Exec、TCPSocket */ ActionType?: string; } /** 公有云数据源结构 */ declare interface PublicDataSourceFS { /** 数据源id */ DataSourceId?: string; /** 相对数据源子路径 */ SubPath?: string; } /** RDMA配置 */ declare interface RDMAConfig { /** 是否开启RDMA */ Enable?: boolean | null; } /** Notebook资源参数 */ declare interface ResourceConf { /** cpu 处理器资源, 单位为1/1000核 (for预付费) */ Cpu?: number | null; /** memory 内存资源, 单位为1M (for预付费) */ Memory?: number | null; /** gpu Gpu卡资源，单位为1/100卡，例如GpuType=T4时，1 Gpu = 1/100 T4卡 (for预付费) */ Gpu?: number | null; /** GpuType 卡类型，参考资源组上对应的卡类型。eg: H800,A800,A100,T4,P4,V100等 (for预付费) */ GpuType?: string | null; /** 计算规格 (for后付费)，可选值如下：TI.S.LARGE.POST: 4C8G TI.S.2XLARGE16.POST: 8C16G TI.S.2XLARGE32.POST: 8C32G TI.S.4XLARGE32.POST: 16C32GTI.S.4XLARGE64.POST: 16C64GTI.S.6XLARGE48.POST: 24C48GTI.S.6XLARGE96.POST: 24C96GTI.S.8XLARGE64.POST: 32C64GTI.S.8XLARGE128.POST : 32C128GTI.GN10.2XLARGE40.POST: 8C40G V100*1 TI.GN10.5XLARGE80.POST: 18C80G V100*2 TI.GN10.10XLARGE160.POST : 32C160G V100*4TI.GN10.20XLARGE320.POST : 72C320G V100*8TI.GN7.8XLARGE128.POST: 32C128G T4*1 TI.GN7.10XLARGE160.POST: 40C160G T4*2 TI.GN7.20XLARGE320.POST: 80C320G T4*4 */ InstanceType?: string | null; } /** 资源配置 */ declare interface ResourceConfigInfo { /** 角色，eg：PS、WORKER、DRIVER、EXECUTOR */ Role: string; /** cpu核数，使用资源组时需配置。单位：1/1000，即1000=1核 */ Cpu?: number; /** 内存，使用资源组时需配置。单位为MB */ Memory?: number; /** gpu卡类型，使用资源组时需配置 */ GpuType?: string; /** gpu卡数，使用资源组时需配置。单位：1/100，即100=1卡 */ Gpu?: number; /** 算力规格ID计算规格 (for后付费)，可选值如下：TI.S.LARGE.POST: 4C8G TI.S.2XLARGE16.POST: 8C16G TI.S.2XLARGE32.POST: 8C32G TI.S.4XLARGE32.POST: 16C32GTI.S.4XLARGE64.POST: 16C64GTI.S.6XLARGE48.POST: 24C48GTI.S.6XLARGE96.POST: 24C96GTI.S.8XLARGE64.POST: 32C64GTI.S.8XLARGE128.POST : 32C128GTI.GN10.2XLARGE40.POST: 8C40G V100*1 TI.GN10.5XLARGE80.POST: 18C80G V100*2 TI.GN10.10XLARGE160.POST : 32C160G V100*4TI.GN10.20XLARGE320.POST : 72C320G V100*8TI.GN7.8XLARGE128.POST: 32C128G T4*1 TI.GN7.10XLARGE160.POST: 40C160G T4*2 TI.GN7.20XLARGE320.POST: 80C32 */ InstanceType?: string; /** 计算节点数 */ InstanceNum?: number; /** 算力规格名称计算规格 (for后付费)，可选值如下：4C8G 8C16G 8C32G 16C32G6C64G24C48G24C96G32C64G32C128G8C40G V100*1 8C80G V100*2 32C160G V100*472C320G V100*832C128G T4*1 40C160G T4*2 80C32 */ InstanceTypeAlias?: string; /** RDMA配置 */ RDMAConfig?: RDMAConfig | null; } /** 资源组 */ declare interface ResourceGroup { /** 资源组id */ ResourceGroupId?: string; /** 资源组名称 */ ResourceGroupName?: string; /** 可用节点个数(运行中的节点) */ FreeInstance?: number; /** 总节点个数(所有节点) */ TotalInstance?: number; /** 资源组已用的资源 */ UsedResource?: GroupResource | null; /** 资源组总资源 */ TotalResource?: GroupResource | null; /** 节点信息 */ InstanceSet?: Instance[] | null; /** 标签列表 */ TagSet?: Tag[] | null; } /** 在线服务中服务的资源组简略信息结构 */ declare interface ResourceGroupInfo { /** 资源组 id */ ResourceGroupId?: string; /** 资源组名称 */ ResourceGroupName?: string; } /** 描述资源信息 */ declare interface ResourceInfo { /** 处理器资源, 单位为1/1000核 */ Cpu: number | null; /** 内存资源, 单位为1M */ Memory: number | null; /** Gpu卡个数资源, 单位为0.01单位的GpuType.Gpu=100表示使用了“一张”gpu卡, 但此处的“一张”卡有可能是虚拟化后的1/4卡, 也有可能是整张卡. 取决于实例的机型例1 实例的机型带有1张虚拟gpu卡, 每张虚拟gpu卡对应1/4张实际T4卡, 则此时 GpuType=T4, Gpu=100, RealGpu=25.例2 实例的机型带有4张gpu整卡, 每张卡对应1张实际T4卡, 则此时 GpuType=T4, Gpu=400, RealGpu=400. */ Gpu?: number | null; /** Gpu卡型号 T4或者V100。仅展示当前 GPU 卡型号，若存在多类型同时使用，则参考 RealGpuDetailSet 的值。 */ GpuType?: string | null; /** 创建或更新时无需填写，仅展示需要关注后付费非整卡实例对应的实际的Gpu卡资源, 表示gpu资源对应实际的gpu卡个数.RealGpu=100表示实际使用了一张gpu卡, 对应实际的实例机型, 有可能代表带有1/4卡的实例4个, 或者带有1/2卡的实例2个, 或者带有1卡的实力1个. */ RealGpu?: number; /** 创建或更新时无需填写，仅展示需要关注。详细的GPU使用信息。 */ RealGpuDetailSet?: GpuDetail[]; } /** 资源组节点运行任务信息 */ declare interface ResourceInstanceRunningJobInfo { /** pod名称 */ PodName?: string | null; /** 任务类型 */ TaskType?: string | null; /** 任务id */ TaskId?: string | null; /** 任务自定义名称 */ TaskName?: string | null; } /** 滚动更新策略 */ declare interface RollingUpdate { /** 滚动更新的最大不可用 */ MaxUnavailable?: NumOrPercent; /** 滚动更新的最大新增实例 */ MaxSurge?: NumOrPercent; } /** notebook ssh端口配置 */ declare interface SSHConfig { /** 是否开启ssh */ Enable?: boolean | null; /** 公钥信息 */ PublicKey?: string | null; /** 端口号 */ Port?: number | null; /** 登录命令 */ LoginCommand?: string | null; /** 登录地址是否改变 */ IsAddressChanged?: boolean | null; } /** 定时的事务和行为 */ declare interface ScheduledAction { /** 是否要定时停止服务，true or false。true 则 ScheduleStopTime 必填， false 则 ScheduleStopTime 不生效 */ ScheduleStop?: boolean; /** 要执行定时停止的时间，格式：“2022-01-26T19:46:22+08:00” */ ScheduleStopTime?: string; } /** 服务的调度策略配置 */ declare interface SchedulingPolicy { /** 是否启用了跨资源组调度开关 */ CrossResourceGroupScheduling?: boolean; } /** 表格数据集表头信息 */ declare interface SchemaInfo { /** 长度30字符内 */ Name: string; /** 数据类型 */ Type: string; } /** 描述在线服务 */ declare interface Service { /** 服务组id */ ServiceGroupId?: string; /** 服务id */ ServiceId?: string; /** 服务组名 */ ServiceGroupName?: string; /** 服务描述 */ ServiceDescription?: string | null; /** 服务的详细信息 */ ServiceInfo?: ServiceInfo | null; /** 集群id */ ClusterId?: string | null; /** 地域 */ Region?: string | null; /** 命名空间 */ Namespace?: string | null; /** 付费类型 */ ChargeType?: string | null; /** 包年包月服务的资源组id，按量计费的服务为空 */ ResourceGroupId?: string | null; /** 包年包月服务对应的资源组名字 */ ResourceGroupName?: string | null; /** 服务的标签 */ Tags?: Tag[] | null; /** 服务所在的 ingress 的 name */ IngressName?: string | null; /** 创建者 */ CreatedBy?: string | null; /** 创建时间 */ CreateTime?: string | null; /** 更新时间 */ UpdateTime?: string | null; /** 主账号 */ Uin?: string | null; /** 子账号 */ SubUin?: string | null; /** app_id */ AppId?: number | null; /** 服务的业务状态 */ BusinessStatus?: string | null; /** 已废弃,以ServiceInfo中的对应为准 */ ServiceLimit?: ServiceLimit | null; /** 已废弃,以ServiceInfo中的对应为准 */ ScheduledAction?: ScheduledAction | null; /** 服务创建失败的原因，创建成功后该字段为默认值 CREATE_SUCCEED */ CreateFailedReason?: string | null; /** 服务状态CREATING 创建中CREATE_FAILED 创建失败Normal 正常运行中Stopped 已停止Stopping 停止中Abnormal 异常Pending 启动中Waiting 就绪中 */ Status?: string | null; /** 费用信息 */ BillingInfo?: string | null; /** 模型权重 */ Weight?: number | null; /** 服务的创建来源AUTO_ML: 来自自动学习的一键发布DEFAULT: 其他来源 */ CreateSource?: string | null; /** 版本号 */ Version?: string | null; /** 服务组下服务的最高版本号 */ LatestVersion?: string | null; /** 资源组类别托管 NORMAL，纳管 SW */ ResourceGroupSWType?: string | null; /** 服务的归档状态 Waiting 等待归档中，Archived 已归档 */ ArchiveStatus?: string | null; /** 服务的部署类型 [STANDARD 标准部署，DIST 分布式多机部署] 默认STANDARD */ DeployType?: string | null; /** 单副本下的实例数，仅在部署类型为DIST时生效，默认1 */ InstancePerReplicas?: string | null; /** 用于监控查询的Source枚举值，部分情况下与CreateSource不同，通过该字段兼容 */ MonitorSource?: string; /** 服务创建者的子账号名称 */ SubUinName?: string; /** 服务的调度策略 */ SchedulingPolicy?: SchedulingPolicy; /** 外部的资源组信息，表示借调了哪些资源组的资源 */ ExternalResourceGroups?: ResourceGroupInfo[]; } /** 服务的调用信息，服务组下唯一 */ declare interface ServiceCallInfo { /** 服务组id */ ServiceGroupId?: string | null; /** 内网http调用地址 */ InnerHttpAddr?: string | null; /** 内网https调用地址 */ InnerHttpsAddr?: string | null; /** 内网http调用地址 */ OuterHttpAddr?: string | null; /** 内网https调用地址 */ OuterHttpsAddr?: string | null; /** 调用key */ AppKey?: string | null; /** 调用secret */ AppSecret?: string | null; /** 鉴权是否开启 */ AuthorizationEnable?: boolean | null; } /** V2版本的服务调用信息 */ declare interface ServiceCallInfoV2 { /** 服务组id */ ServiceGroupId?: string | null; /** 服务的公网调用地址 */ InternetEndpoint?: string | null; /** 鉴权是否开启 */ AuthorizationEnable?: boolean | null; /** 鉴权token，仅当AuthorizationEnable为true时有效 */ AuthToken?: string | null; /** LLM token 列表 */ AuthTokens?: AuthToken[]; /** 是否开启限流 */ EnableLimit?: boolean; /** 访问grpc时需携带的虚拟Host */ GrpcHost?: string; } /** 服务共享弹性网卡设置 */ declare interface ServiceEIP { /** 是否开启TIONE内网到外部的访问 */ EnableEIP?: boolean | null; /** 用户VpcId */ VpcId?: string | null; /** 用户subnetId */ SubnetId?: string | null; } /** 共享弹性网卡信息 */ declare interface ServiceEIPInfo { /** 服务ID */ ServiceId?: string | null; /** 用户VpcId */ VpcId?: string | null; /** 用户子网Id */ SubnetId?: string | null; } /** 在线服务一个服务组的信息 */ declare interface ServiceGroup { /** 服务组id */ ServiceGroupId?: string; /** 服务组名 */ ServiceGroupName?: string; /** 创建者 */ CreatedBy?: string; /** 创建时间 */ CreateTime?: string; /** 更新时间 */ UpdateTime?: string; /** 主账号 */ Uin?: string; /** 服务组下服务总数 */ ServiceCount?: number | null; /** 服务组下在运行的服务数量 */ RunningServiceCount?: number | null; /** 服务描述 */ Services?: Service[] | null; /** 服务组状态，与服务一致 CREATING 创建中 CREATE_FAILED 创建失败 Normal 正常运行中 Stopped 已停止 Stopping 停止中 Abnormal 异常 Pending 启动中 Waiting 就绪中 */ Status?: string | null; /** 服务组标签 */ Tags?: Tag[] | null; /** 服务组下最高版本 */ LatestVersion?: string | null; /** 服务的业务状态CREATING 创建中 CREATE_FAILED 创建失败 ARREARS_STOP 因欠费被强制停止 BILLING 计费中 WHITELIST_USING 白名单试用中 WHITELIST_STOP 白名单额度不足 */ BusinessStatus?: string | null; /** 服务的计费信息 */ BillingInfo?: string | null; /** 服务的创建来源 */ CreateSource?: string | null; /** 服务组的权重更新状态 UPDATING 更新中 UPDATED 更新成功 UPDATE_FAILED 更新失败 */ WeightUpdateStatus?: string | null; /** 服务组下运行的pod数量 */ ReplicasCount?: number | null; /** 服务组下期望的pod数 */ AvailableReplicasCount?: number | null; /** 服务组的subuin */ SubUin?: string; /** 服务组的app_id */ AppId?: number; /** 是否开启鉴权 */ AuthorizationEnable?: boolean; /** 限流鉴权 token 列表 */ AuthTokens?: AuthToken[]; /** 用于监控的创建来源字段 */ MonitorSource?: string; /** 子用户的 nickname */ SubUinName?: string; } /** 推理服务在集群中的信息 */ declare interface ServiceInfo { /** 期望运行的Pod数量，停止状态是0不同计费模式和调节模式下对应关系如下PREPAID 和 POSTPAID_BY_HOUR:手动调节模式下对应实例数量自动调节模式下对应基于时间的默认策略的实例数量HYBRID_PAID:后付费实例手动调节模式下对应实例数量后付费实例自动调节模式下对应时间策略的默认策略的实例数量 */ Replicas: number | null; /** 镜像信息 */ ImageInfo: ImageInfo | null; /** 环境变量 */ Env: EnvVar[] | null; /** 资源信息 */ Resources: ResourceInfo | null; /** 后付费实例对应的机型规格 */ InstanceType: string | null; /** 模型信息 */ ModelInfo: ModelInfo | null; /** 是否启用日志 */ LogEnable: boolean | null; /** 日志配置 */ LogConfig: LogConfig | null; /** 是否开启鉴权 */ AuthorizationEnable: boolean | null; /** hpa配置 */ HorizontalPodAutoscaler: HorizontalPodAutoscaler | null; /** 服务的状态描述 */ Status: WorkloadStatus | null; /** 权重 */ Weight: number | null; /** 资源总量 */ ResourceTotal: ResourceInfo | null; /** 历史实例数 */ OldReplicas: number | null; /** 计费模式[HYBRID_PAID]时生效, 用于标识混合计费模式下的预付费实例数, 若不填则默认为1 */ HybridBillingPrepaidReplicas: number | null; /** 历史 HYBRID_PAID 时的实例数，用户恢复服务 */ OldHybridBillingPrepaidReplicas: number | null; /** 是否开启模型的热更新。默认不开启 */ ModelHotUpdateEnable: boolean | null; /** 服务的规格别名 */ InstanceAlias?: string; /** 实例数量调节方式,默认为手动支持：自动 - "AUTO", 手动 - "MANUAL" */ ScaleMode?: string | null; /** 定时伸缩任务 */ CronScaleJobs?: CronScaleJob[] | null; /** 定时伸缩策略 */ ScaleStrategy?: string | null; /** 定时停止的配置 */ ScheduledAction?: ScheduledAction | null; /** 实例列表 */ PodList?: string[] | null; /** Pod列表信息 */ Pods?: Pod | null; /** Pod列表信息 */ PodInfos?: Pod[] | null; /** 服务限速限流相关配置 */ ServiceLimit?: ServiceLimit | null; /** 是否开启模型的加速, 仅对StableDiffusion(动态加速)格式的模型有效。 */ ModelTurboEnable?: boolean | null; /** 挂载 */ VolumeMount?: VolumeMount | null; /** 推理代码信息 */ InferCodeInfo?: InferCodeInfo | null; /** 服务的启动命令 */ Command?: string | null; /** 开启TIONE内网访问外部设置 */ ServiceEIP?: ServiceEIP | null; /** 服务端口，默认为8501 */ ServicePort?: number | null; /** 服务的优雅退出时限。单位为秒，默认值为30，最小为1 */ TerminationGracePeriodSeconds?: number; /** 服务实例停止前执行的命令，执行完毕或执行时间超过优雅退出时限后实例结束 */ PreStopCommand?: string[]; /** 是否启用grpc端口 */ GrpcEnable?: boolean; /** 健康探针 */ HealthProbe?: HealthProbe; /** 滚动更新配置 */ RollingUpdate?: RollingUpdate; /** 单副本下的实例数，仅在部署类型为DIST、ROLE时生效，默认1 */ InstancePerReplicas?: number; /** 批量数据盘挂载配置 */ VolumeMounts?: VolumeMount[]; } /** 服务的限流限速等配置 */ declare interface ServiceLimit { /** 是否开启实例层面限流限速，true or false。true 则 InstanceRpsLimit 必填， false 则 InstanceRpsLimit 不生效 */ EnableInstanceRpsLimit?: boolean; /** 每个服务实例的 request per second 限速, 0 为不限流 */ InstanceRpsLimit?: number; /** 是否开启单实例最大并发数限制，true or false。true 则 InstanceReqLimit 必填， false 则 InstanceReqLimit 不生效 */ EnableInstanceReqLimit?: boolean; /** 每个服务实例的最大并发 */ InstanceReqLimit?: number; } /** sidecar容器配置 */ declare interface SidecarSpec { /** 镜像配置 */ ImageInfo?: ImageInfo; } /** 计费项内容 */ declare interface Spec { /** 计费项标签 */ SpecId?: string; /** 计费项名称 */ SpecName?: string; /** 计费项显示名称 */ SpecAlias?: string; /** 是否售罄 */ Available?: boolean; /** 当前资源售罄时，可用的区域有哪些 */ AvailableRegion?: string[]; /** 当前计费项支持的特性 */ SpecFeatures?: string[] | null; /** 计费项类型 */ SpecType?: string | null; /** GPU类型 */ GpuType?: string | null; /** 计费项CategoryId */ CategoryId?: string | null; } /** 计费项询价结果 */ declare interface SpecPrice { /** 计费项名称 */ SpecName?: string; /** 原价，单位：分。最大值42亿，超过则返回0 */ TotalCost?: number; /** 优惠后的价格，单位：分 */ RealTotalCost?: number; /** 计费项数量 */ SpecCount?: number; } /** 计费项询价单元 */ declare interface SpecUnit { /** 计费项名称 */ SpecName: string; /** 计费项数量,建议不超过100万 */ SpecCount: number; } /** 启动命令信息 */ declare interface StartCmdInfo { /** 启动命令 */ StartCmd?: string; /** ps启动命令 */ PsStartCmd?: string; /** worker启动命令 */ WorkerStartCmd?: string; } /** 实例状况 */ declare interface StatefulSetCondition { /** 信息 */ Message: string | null; /** 原因 */ Reason: string | null; /** Status of the condition, one of True, False, Unknown. */ Status: string | null; /** 类型 */ Type: string | null; /** 上次更新的时间 */ LastTransitionTime: string | null; /** 上次更新的时间 */ LastUpdateTime?: string | null; } /** tcp socket 健康探针检查行为 */ declare interface TCPSocketAction { /** 调用端口 */ Port?: number; } /** 太极服务的调用信息 */ declare interface TJCallInfo { /** 调用地址 */ HttpAddr?: string | null; /** token */ Token?: string | null; /** 调用示例 */ CallExample?: string | null; } /** 描述腾讯云标签 */ declare interface Tag { /** 标签键 */ TagKey: string | null; /** 标签值 */ TagValue: string | null; } /** Tag过滤参数 */ declare interface TagFilter { /** 标签键 */ TagKey?: string; /** 多个标签值 */ TagValues?: string[]; } /** 模型版本列表 */ declare interface TrainingModelVersionDTO { /** 模型id */ TrainingModelId?: string; /** 模型版本id */ TrainingModelVersionId?: string; /** 模型版本 */ TrainingModelVersion?: string; /** 模型来源 */ TrainingModelSource?: string; /** 创建时间 */ TrainingModelCreateTime?: string; /** 创建人uin */ TrainingModelCreator?: string; /** 算法框架 */ AlgorithmFramework?: string; /** 推理环境 */ ReasoningEnvironment?: string; /** 推理环境来源 */ ReasoningEnvironmentSource?: string; /** 模型指标 */ TrainingModelIndex?: string; /** 训练任务名称 */ TrainingJobName?: string; /** 模型cos路径 */ TrainingModelCosPath?: CosPathInfo; /** 模型名称 */ TrainingModelName?: string; /** 训练任务id */ TrainingJobId?: string; /** 自定义推理环境 */ ReasoningImageInfo?: ImageInfo; /** 模型版本创建时间 */ CreateTime?: string; /** 模型处理状态STATUS_SUCCESS：导入成功，STATUS_FAILED：导入失败，STATUS_RUNNING：导入中 */ TrainingModelStatus?: string | null; /** 模型处理进度 */ TrainingModelProgress?: number | null; /** 模型错误信息 */ TrainingModelErrorMsg?: string | null; /** 模型格式 */ TrainingModelFormat?: string | null; /** 模型版本类型 */ VersionType?: string | null; /** GPU类型 */ GPUType?: string | null; /** 模型自动清理开关 */ AutoClean?: string | null; /** 模型清理周期 */ ModelCleanPeriod?: number | null; /** 模型数量保留上限 */ MaxReservedModels?: number | null; /** 模型热更新目录 */ ModelHotUpdatePath?: CosPathInfo | null; /** 推理环境id */ ReasoningEnvironmentId?: string | null; /** 训练任务版本 */ TrainingJobVersion?: string | null; /** 训练偏好 */ TrainingPreference?: string | null; /** 自动学习任务id */ AutoMLTaskId?: string | null; /** 是否QAT模型 */ IsQAT?: boolean | null; } /** 训练任务详情 */ declare interface TrainingTaskDetail { /** 训练任务ID */ Id?: string; /** 训练任务名称 */ Name?: string; /** 主账号uin */ Uin?: string; /** 子账号uin */ SubUin?: string; /** 创建者名称 */ SubUinName?: string | null; /** 地域 */ Region?: string; /** 训练框架名称，eg：SPARK、PYSARK、TENSORFLOW、PYTORCH */ FrameworkName?: string | null; /** 训练框架版本 */ FrameworkVersion?: string | null; /** 框架运行环境 */ FrameworkEnvironment?: string | null; /** 计费模式 */ ChargeType?: string; /** 预付费专用资源组 */ ResourceGroupId?: string | null; /** 资源配置 */ ResourceConfigInfos?: ResourceConfigInfo[]; /** 标签 */ Tags?: Tag[] | null; /** 训练模式，eg：PS_WORKER、DDP、MPI、HOROVOD */ TrainingMode?: string | null; /** 代码包 */ CodePackagePath?: CosPathInfo; /** 启动命令信息 */ StartCmdInfo?: StartCmdInfo; /** 数据来源，eg：DATASET、COS */ DataSource?: string | null; /** 数据配置 */ DataConfigs?: DataConfig[] | null; /** 调优参数 */ TuningParameters?: string | null; /** 训练输出 */ Output?: CosPathInfo; /** 是否上报日志 */ LogEnable?: boolean; /** 日志配置 */ LogConfig?: LogConfig | null; /** VPC ID */ VpcId?: string | null; /** 子网ID */ SubnetId?: string | null; /** 自定义镜像信息 */ ImageInfo?: ImageInfo | null; /** 运行时长 */ RuntimeInSeconds?: number | null; /** 创建时间 */ CreateTime?: string; /** 训练开始时间 */ StartTime?: string | null; /** 计费状态，eg：BILLING计费中，ARREARS_STOP欠费停止，NOT_BILLING不在计费中 */ ChargeStatus?: string; /** 最近一次实例ID */ LatestInstanceId?: string | null; /** TensorBoard ID */ TensorBoardId?: string | null; /** 备注 */ Remark?: string | null; /** 失败原因 */ FailureReason?: string | null; /** 更新时间 */ UpdateTime?: string; /** 训练结束时间 */ EndTime?: string | null; /** 计费金额信息，eg：2.00元/小时 (按量计费) */ BillingInfo?: string | null; /** 预付费专用资源组名称 */ ResourceGroupName?: string | null; /** 任务信息 */ Message?: string | null; /** 任务状态，eg：STARTING启动中、RUNNING运行中、STOPPING停止中、STOPPED已停止、FAILED异常、SUCCEED已完成 */ Status?: string; /** 回调地址 */ CallbackUrl?: string | null; /** 任务关联的代码仓库配置 */ CodeRepos?: CodeRepoConfig[]; } /** 出参类型 */ declare interface TrainingTaskSetItem { /** 训练任务ID */ Id?: string; /** 训练任务名称 */ Name?: string; /** 框架名称 */ FrameworkName?: string | null; /** 训练框架版本 */ FrameworkVersion?: string | null; /** 框架运行环境 */ FrameworkEnvironment?: string | null; /** 计费模式 */ ChargeType?: string; /** 计费状态，eg：BILLING计费中，ARREARS_STOP欠费停止，NOT_BILLING不在计费中 */ ChargeStatus?: string; /** 预付费专用资源组 */ ResourceGroupId?: string | null; /** 资源配置 */ ResourceConfigInfos?: ResourceConfigInfo[]; /** 训练模式eg：PS_WORKER、DDP、MPI、HOROVOD */ TrainingMode?: string | null; /** 任务状态，eg：SUBMITTING提交中、PENDING排队中、STARTING启动中、RUNNING运行中、STOPPING停止中、STOPPED已停止、FAILED异常、SUCCEED已完成 */ Status?: string; /** 运行时长 */ RuntimeInSeconds?: number | null; /** 创建时间 */ CreateTime?: string; /** 训练开始时间 */ StartTime?: string | null; /** 训练结束时间 */ EndTime?: string | null; /** 训练输出 */ Output?: CosPathInfo; /** 失败原因 */ FailureReason?: string | null; /** 更新时间 */ UpdateTime?: string; /** 计费金额信息，eg：2.00元/小时 (按量计费) */ BillingInfo?: string; /** 预付费专用资源组名称 */ ResourceGroupName?: string; /** 自定义镜像信息 */ ImageInfo?: ImageInfo | null; /** 任务信息 */ Message?: string | null; /** 标签配置 */ Tags?: Tag[] | null; /** 回调地址 */ CallbackUrl?: string | null; /** 任务subUin信息 */ SubUin?: string | null; /** 任务创建者名称 */ SubUinName?: string | null; /** 任务AppId */ AppId?: string; } /** 大模型生成Token统计 */ declare interface Usage { /** 生成的token数目 */ CompletionTokens?: number; /** 输入的token数目 */ PromptTokens?: number; /** 总共token数目 */ TotalTokens?: number; } /** 外部挂载信息 */ declare interface VolumeMount { /** cfs的配置信息 */ CFSConfig: CFSConfig; /** 挂载源类型，CFS、COS，默认为CFS */ VolumeSourceType?: string; /** 自定义容器内挂载路径 */ MountPath?: string | null; } /** 工作负载的状态 */ declare interface WorkloadStatus { /** 当前实例数 */ Replicas: number; /** 更新的实例数 */ UpdatedReplicas: number; /** 就绪的实例数 */ ReadyReplicas: number; /** 可用的实例数 */ AvailableReplicas: number; /** 不可用的实例数 */ UnavailableReplicas: number; /** Normal 正常运行中Abnormal 服务异常，例如容器启动失败等Waiting 服务等待中，例如容器下载镜像过程等Stopped 已停止 Pending 启动中Stopping 停止中 */ Status: string; /** 工作负载的状况信息 */ StatefulSetCondition?: StatefulSetCondition[]; /** 工作负载历史的状况信息 */ Conditions?: StatefulSetCondition[]; /** 状态异常时，展示原因 */ Reason?: string | null; } declare interface ChatCompletionRequest { /** 对话的目标模型ID。自行部署的开源大模型聊天：部署的模型服务组ID，形如ms-q7pfr29p。 */ Model: string; /** 输入对话历史。旧的对话在前，数组中最后一项应该为这次的问题。 */ Messages: Message[]; /** 仅当模型为自行部署的开源大模型时生效。采样随机值，默认值为0.7，取值范围[0,2]。较高的值(如0.8)将使输出更加随机，而较低的值(如0.2)将使输出更加确定。建议仅修改此参数或TopP，但不建议两者都修改。 */ Temperature?: number; /** 仅当模型为自行部署的开源大模型时生效。核采样，默认值为1，取值范围[0,1]。指的是预先设置一个概率界限 p，然后将所有可能生成的token，根据概率大小从高到低排列，依次选取。当这些选取的token的累积概率大于或等于 p 值时停止，然后从已经选取的token中进行采样，生成下一个token。例如top_p为0.1时意味着模型只考虑累积概率为10%的token。建议仅修改此参数或Temperature，不建议两者都修改。 */ TopP?: number; /** 仅当模型为自行部署的开源大模型时生效。默认 512，模型可生成内容的最长 token 数量，最大不能超过模型支持的上下文长度。 */ MaxTokens?: number; } declare interface ChatCompletionResponse { /** 对话的模型服务组ID */ Model?: string; /** 本次问答的答案。 */ Choices?: Choice[]; /** 会话Id。 */ Id?: string; /** token统计 */ Usage?: Usage; /** 唯一请求 ID，每次请求都会返回。 */ RequestId?: string; } declare interface CreateDatasetRequest { /** 数据集名称，不超过60个字符，仅支持中英文、数字、下划线"_"、短横"-"，只能以中英文、数字开头 */ DatasetName: string; /** 数据集类型:TYPE_DATASET_TEXT，文本TYPE_DATASET_IMAGE，图片TYPE_DATASET_TABLE，表格TYPE_DATASET_OTHER，其他 */ DatasetType?: string; /** 数据源cos路径 */ StorageDataPath?: CosPathInfo; /** 数据集标签cos存储路径 */ StorageLabelPath?: CosPathInfo; /** 数据集标签 */ DatasetTags?: Tag[]; /** 数据集标注状态:STATUS_NON_ANNOTATED，未标注STATUS_ANNOTATED，已标注 */ AnnotationStatus?: string; /** 标注类型:ANNOTATION_TYPE_CLASSIFICATION，图片分类ANNOTATION_TYPE_DETECTION，目标检测ANNOTATION_TYPE_SEGMENTATION，图片分割ANNOTATION_TYPE_TRACKING，目标跟踪ANNOTATION_TYPE_OCR，OCRANNOTATION_TYPE_TEXT_CLASSIFICATION，文本分类 */ AnnotationType?: string; /** 标注格式:ANNOTATION_FORMAT_TI，TI平台格式ANNOTATION_FORMAT_PASCAL，Pascal VocANNOTATION_FORMAT_COCO，COCOANNOTATION_FORMAT_FILE，文件目录结构ANNOTATION_FORMAT_TEXT_TI，文本类型TI平台格式ANNOTATION_FORMAT_TXT，文本类型TXT格式ANNOTATION_FORMAT_CSV，文本类型CSV格式ANNOTATION_FORMAT_JSON，文本类型JSON格式 */ AnnotationFormat?: string; /** 表头信息 */ SchemaInfos?: SchemaInfo[]; /** 数据是否存在表头 */ IsSchemaExisted?: boolean; /** 导入文件粒度TYPE_TEXT_LINE，按行TYPE_TEXT_FILE，按文件 */ ContentType?: string; /** 数据集建模一级类别。LLM,CV,STRUCTURE,OTHER */ DatasetScene?: string; /** 数据集标签。 */ SceneTags?: string[]; /** 数据集CFS配置。仅支持LLM场景 */ CFSConfig?: CFSConfig; } declare interface CreateDatasetResponse { /** 数据集ID */ DatasetId?: string | null; /** 唯一请求 ID，每次请求都会返回。 */ RequestId?: string; } declare interface CreateModelServiceAuthTokenRequest { /** 服务组 id */ ServiceGroupId: string; /** token 名称 */ Name?: string; /** Description 描述 */ Description?: string; } declare interface CreateModelServiceAuthTokenResponse { /** 唯一请求 ID，每次请求都会返回。 */ RequestId?: stri