KubeRay在Kubernetes中定位Ray工作负载
AnyScale的解释称,KubeRay是基于Kubernetes原生的层,用于大规模运行Ray,将Ray集群、批处理作业和工作负载服务绑定到许多团队已有的基础设施中。资料将KubeRay定位为在Kubernetes上运行Ray的标准方式,并称它支撑了主要云服务提供商的托管Ray产品。
证据与背景
根据原始材料,核心问题是 Kubernetes 理解 Pods、Services 和 Jobs,却不懂 Ray 集群、Ray 作业或 Ray Serve 应用。没有操作员层,团队必须手工构建相同的管道,用于头部和工人部署、作业提交、自动扩展和故障恢复。KubeRay 被呈现为桥梁:它将 RayCluster 规范转化为必要的 Pods 和服务,并通过状态字段和事件向 Kubernetes 报告 Ray 状态。
说明中提到,KubeRay提供三个主要的自定义资源。RayCluster是长期运行集群的构建模块。RayJob为单个批次工作负载创建专用RayCluster,并在作业完成后将其拆除。RayService通过高可用性和零停机升级管理Ray Serve应用。该源代码还描述了用于周期性Ray作业的RayCronJob。
在扩展性和弹性方面,资料称KubeRay基于待处理任务、actor和放置组添加了Ray感知的自动扩展,而不仅仅是依赖Kubernetes Horizontal Pod自动扩展器。它还提到Global Control Service的容错能力,可在头节点故障后恢复集群元数据,同时保持Ray Serve应用运行。在调度方面,消息人士称KubeRay集成了Kubernetes配额和群排程工具,包括Kueue、MultiKueue、Kubernetes Workload API、Volcano、YuniKorn、调度插件和NVIDIA KAI调度器。
源代码中列出的安全与操作功能包括Ray 令牌认证、Kubernetes RBAC、mTLS、NetworkPolicy 支持、Prometheus 和 Grafana 集成,以及用于在集群删除后保存 Ray 事件和日志的历史服务器。资料还提到了 kubectl ray 和用于操作式管理的 KubeRay API 服务器。
解释中包含一个示例,RayJob在Kubernetes上运行PyTorch Fashion MNIST训练工作负载。在示例输出中,RayJob显示为成功,提交的训练作业报告了 0.3702628721599095 损失和 0.8646准确性。该示例以文档形式呈现,而非市场事件。
更广泛的 Ray 背景说明,验证时最新的官方发布是 Ray 2.59.0,日期为 2026-10-02,紧随 Ray 2.58.0 于 2026-08-23。这些发布说明与 KubeRay 说明是分开的,但表明上游项目在同一时期继续添加大型语言模型、存储和安全功能。
该来源未提供KubeRay的采用率、客户数据、市场份额或性能比较指标。此外,也未具体说明即将推出的产品日期或发布催化剂,超出文档内容。