OrionX AI算力资源池化软件

产品概览

趋动科技OrionX AI算力池化解决方案，通过软件定义算力、深度适配多元异构算力资源，形成多厂商、多架构的异构算力资源池，实现从传统的以硬件资源为单位、静态分配的使用方式，转变为以计算能力为单位对算力资源进行动态、灵活地配给，帮助用户提升资源利用率，保护已有投资。 产品定位： 趋动科技OrionX AI算力池化解决方案，通过软件定义算力、深度适配多元异构算力资源，形成多厂商、多架构的异构算力资源池，实现从传统的以硬件资源为单位、静态分配的使用方式，转变为以计算能力为单位对算力资源进行动态、灵活地配给，帮助用户提升资源利用率，保护已有投资。 产品说明： OrionX方案在AI算力资源池化领域的创新填补了国内空白，且处于世界领先水平。该方案为用户打造数据中心级AI算力资源池，并提供统一的管理面来实现管理、监控、资源调度和资源回收等功能；可与数据中心级的资源调度平台对接，让用户在单一界面，就可以调度数据中心内包括英伟达、海光、寒武纪、天数、燧原等品牌在内的各类AI算力资源，实现 AI 算力的统筹分配、资源池化、高效保障和运维管理，从建、管、用三个维度，帮助客户构建更灵活经济的算力中心。 产品核心功能： 一池多芯，一池多云； 按需调用，动态伸缩； 细粒度切分； 远程调用； 资源聚合； 算力/显存超分； 算力热迁移； 算力规格化。 产品参数： 产品版本：V3.0 所属类别：人工智能 上架时间：2024年6月3日 产品优势： 1.一池多芯：OrionX支持将NVIDIA、寒武纪、中科海光、华为昇腾等多个厂家的AI芯片放在同一个资源池统一管理、统一调度； 2.一池多云：OrionX支持在公有云、私有云、虚拟机、裸金属等多种架构上混合部署，支持容器、虚机、物理机等多种形态混合运行； 3.按需调用：AI应用可以根据负载需求调用任意大小的OrionX vGPU，甚至可以聚合多个物理节点的算力卡；在容器或虚机创建之后，仍然可以调整OrionX vGPU的数量和大小； 4.动态伸缩：在AI应用停止的时候，立刻释放AI算力资源回到整个资源池，以便于资源高效流转，充分利用。 5.细粒度切分：GPU物理卡的切分，按算力与显存两个维度，实现1%算力颗粒度，1MB显存颗粒度，以提供与需求相匹配的小于一块物理算力卡的算力； 6.远程调用：在一台CPU服务器上部署AI任务，可以通过网络远程调用AI算力资源进行加速，本地无需算力卡； 7.资源聚合：把资源池里的多块算力卡聚合给单个运算任务，让单个任务可以使用更多的AI算力资源而无需关注单机的算力卡数量； 8.算力/显存超分：可以将CPU的内存用于扩充算力卡的物理显存； 9.算力热迁移：将算力平台上正在运行的计算任务和数据，从一个物理算力设备无缝迁移到另一个物理算力设备，实现业务连续性和高可用； 10.算力规格化：允许用户自定义算力卡规格，可设置自定义算力卡的名称、显存以及算力，便于管理与分配。