OrionX计算平台

GPU资源池化解决方案，软件定义算力，支持云端和数据中心部署，帮助客户提高AI资源利用率和降低TCO，提高算法工程师的工作效率。

OrionX 帮助客户构建数据中心级 AI 算力资源池，使用户应用无需修改就能透明地共享和 使用数据中心内任何服务器之上的 AI 加速器。OrionX 不但能够帮助用户提高 AI 算力资源 利用率，而且可以极大便利用户 AI 应用的部署

OrionX 通过软件定义 AI 算力，颠覆了原有的 AI 应用直接调用物理 GPU 的架构，增加软 件层，将 AI 应用与物理 GPU 解耦合。AI 应用调用逻辑的 vGPU，再由 OrionX 将 vGPU 需求匹配到具体的物理 GPU。OrionX 架构实现了 GPU 资源池化，让用户高效、智能、灵 活地使用 GPU 资源，达到了降本增效的目的。

OrionX 产品有如下优势：
 提高利用率
o 支持将 GPU 切片为任意大小的 vGPU，从而允许多 AI 负载并行运行，提高 物理 GPU 利用率。
o 提高 GPU 综合利用率多达 3-10 倍，1 张卡相当于起到 N 张卡的效果，真正 做到昂贵算力平民化。

 高性能
o 相比于物理 GPU，OrionX 本地 vGPU 性能损耗几乎为零，远程 vGPU 性能 损耗小于 2%。
o vGPU 资源隔离，并行用户无资源互扰。

 轻松弹性扩展
o 支持从单台到整个数据中心 GPU 服务器纳管，轻松实现 GPU 资源池的横 向扩展。
o 全分布式部署，通过 RDMA（IB/RoCE）或 TCP/IP 网络连接各个节点，实 现资源池弹性扩展。

 灵活调度
o 支持 AI 负载与 GPU 资源分离部署，更加高效合理地使用 GPU 资源。
o CPU 与 GPU 资源解耦合，两种服务器分开购买、按需升级、灵活调度，有 助于最大化数据中心基础设施价值。

 全局管理
o 提供 GPU 资源管理调度策略。
o GPU 全局资源池性能监控，为运维人员提供直观的资源利用率等信息。

 对 AI 开发人员友好
o 一键解决 AI 开发人员面临的训练模型中 GPU/CPU 配比和多机多卡模型拆 分问题，为算法工程师节省大量宝贵时间。