AI应用开发平台系统

先进技术

788878 (1).jpg

基于 K8s的算力调治引擎：平台接纳容器化部署方式，基于云原生K8S容器封装算法代码、推理代码、依赖库及硬件库，在容器环境中运行推理服务。平台支持动态资源配额调整和推理专用资源方案，同时通过削峰填谷、任务排队和失败重试机制，使计算资源到达最大化利用。