本站点使用Cookies,继续浏览表示您同意我们使用Cookies。 Cookies和隐私政策>

搜索
  • 轻量化推理算力平台

    轻量化推理算力平台

    轻、快、灵、易

  • 概述
  • 方案价值
  • 架构图
  • 相关产品

轻量化推理算力平台

企业面向中小型推理和微调场景,AI大模型部署落地“最后一公里”面临三大挑战:

1、AI基础设施建设难:硬件选型涉及智算、通算、模型、应用多部件选型;业务上线慢,系统搭建繁杂,软硬件组件多,安装部署复杂。
2、模型与底座适配难:AI大模型与算力底座适配工作量大。
3、运维困难:组件七国八制,端到端运维困难;系统涉及组件多,故障定位慢。

面向如上场景,华为推出轻量化推理算力平台方案,实现开箱即用,一体化集成;轻量起步,按需扩展;极简易用,全栈统一运维。

方案价值

轻量极简(轻)

轻量极简(轻)

负载轻、资源轻、管理轻
快速部署、快速升级(快)

快速部署、快速升级(快)

通过中心与边缘的应用、模型、数据等多维协同,快速部署/升级
形态灵活(灵)

形态灵活(灵)

适配边缘多样场景,建设标准统一的轻量化AI平台
易维易用(易)

易维易用(易)

建设微调工具链,实现全产品统一运维,构筑底座安全等能力

架构图

架构图

架构图
Huawei

相关产品

Atlas 800I A3 超节点服务器

Atlas 800I A3 超节点服务器

Atlas 800I A3 面向互联网、金融等行业的大模型推理场景,提供高性能、高可靠、易部署的AI推理超节点服务器,满足通用风冷机房部署。

Atlas 800I A2推理服务器

Atlas 800I A2推理服务器

Atlas 800I A2 推理服务器采用8模组高效推理方式,提供强劲 AI 推理能力,在算力、内存带宽和互联能力方面具有优势,可广泛应用于生成式大模型推理,例如智能客服、文案生成、知识沉淀等内容生成类场景,支持NPU互联,提升大模型推理效率。

OceanStor Dorado 5300/5500/5600 V6

OceanStor Dorado 5300/5500/5600 V6

华为OceanStor Dorado 5300/5500/5600 V6是拥有丰富企业级特性的中端智能全闪存存储系统,满足数据库、服务器虚拟化,VDI等场景所需。

CloudEngine 6800系列数据中心交换机

CloudEngine 6800系列数据中心交换机

新一代高性能、高密度智能10/25/50GE以太网接入交换机,提供40/100/200GE上行端口。

数据中心虚拟化(DCS)

数据中心虚拟化(DCS)

华为全新DCS数据中心虚拟化解决方案,端到端交付,虚拟化套件FusionCompute实现对服务器、存储和网络的虚拟化,形成虚拟机与容器高效资源池,帮助企业构建轻量弹性、多元开放的数据中心基础设施,助力企业数字化转型成功。

iMaster DME 存储数据管理(iMaster DME)

iMaster DME 存储数据管理(iMaster DME)

面向存储的集中管理和运维场景,通过融合统一的管理界面,多维度智能风险预测与智能调优等,实现存储全生命周期的自动化管理。

TOP