引言
隨著人工智慧（AI）與機器學習（ML）應用的快速發展，高效能計算（HPC）與批處理工作負載的需求持續成長。Kubernetes 作為雲原生計算基礎設施的核心，正透過 CNCF（Cloud Native Computing Foundation）的推動，逐步建立統一的批處理工作負載生態系統。本文探討 Kubernetes 批處理工作組（Batch Working Group）的核心技術與架構，分析其如何支援 HPC、AI 與 ML 的高效執行，並探討其技術特性與應用場景。
主要內容
技術定義與核心概念
Kubernetes 批處理工作組的目標在於降低生態系統碎片化，並提供針對 HPC、AI、ML 等批處理工作負載的原生支援。其核心技術包括：
- 工作負載級排程器（Job Scheduler）：支援 gang scheduling（整體啟動/停止）、資源配額管理與硬體中立性，確保 GPU/TPU 等異構硬體的高效利用。
- 拓撲感知排程（Topology-Aware Scheduling）：透過識別網路拓撲結構，避免跨交換器鏈路瓶頸，提升資料傳輸效率。
- 公平共享（Fair Sharing）：結合基於使用量與提交歷史的搶佔機制，實現跨團隊資源的公平分配。
- 分層資源控制（Hierarchical Resource Control）：支援組織架構層級的配額配置，並自動回收閒置資源以提升整體利用率。
關鍵特性與功能
統一的 Job API 設計：
- Job Set：提供 HPC/AI 工作負載的統一管理接口，支援啟動/停止策略、故障恢復與成功策略。
- KJob：簡化複雜儲存配置的作業創建，支援 Slurm 兼容的命令列介面與 NFS/S3/GCS 等儲存類型。
QCTL 工具整合：
- 作為
kubectl 插件，提供批次作業的日常操作功能，如建立/刪除隊列、列出工作負載與提交作業。
CRD（Custom Resource Definition）擴展性：
- 支援 Argoworkflows 等 CRD 的整合，實現與 Kubernetes Jobs 的協調，並提供靈活的生態系統擴展架構。
高吞吐量短工作負載處理：
- 針對分鐘級短任務，建議使用長生命週期服務或訊息佇列（如 Kafka）進行異步處理，以避免 Kubernetes 控制平面的 API 伺服器與排程效能瓶頸。
實際應用案例
- Cubeflow Jobs 與獨立 Pots 工具：
管理員預先建立儲存卷與掛載點模板，研究人員僅需選擇模板並提供額外參數（如腳本名稱、模型名稱）即可生成完整工作負載。
- Slurm 兼容模式：
Kubernetes 提供類似 Slurm 的命令列選項與環境變數，模擬任務元數據（如任務索引），簡化從 Slurm 到 Kubernetes 的遷移，支援預取（preemption）與歷史使用量（decaying aggregated usage）兩種資源分配策略。
技術優勢與挑戰
優勢：
- 跨硬體與雲端支援：透過硬體中立設計，支援 GPU/TPU 等異構硬體，適用雲端與本地端環境。
- 資源管理精準度：分層資源控制與公平共享機制，提升跨團隊資源分配的公平性與利用率。
- 生態系統擴展性：透過 CRD 整合與模組化設計，允許用戶根據需求選擇或擴展組件。
挑戰：
- 控制平面性能限制：大量短時段任務的處理瓶頸在於 Kubernetes 控制平面的 API 伺服器與排程效能，需優化集群規模與 API 伺服器配置。
- 多集群管理（MultiQ）：跨集群作業分發與日誌存取的整合仍需進一步優化。
總結
Kubernetes 批處理工作負載生態系統透過 Q 系統與 Job API 的整合，為 HPC、AI 與 ML 提供高效的資源管理與排程方案。其核心價值在於降低生態系統碎片化，並透過拓撲感知排程、公平共享與分層資源控制等技術，實現跨硬體與雲端的高效執行。未來需持續優化控制平面性能與多集群管理，以應對日益增長的批處理需求。企業在部署時應根據工作負載特性選擇適當的部署策略，例如使用長生命週期服務處理長時段任務，或透過訊息佇列優化短時段任務的執行效率。