2023-11-30 13:38

华为推出业界首个大模型混合云

据华为云官方消息,今天,以“践行深度用云,加速智能升级”为主题的华为云行业高峰论坛 2023 在北京开幕。

会上,华为云推出业界首个大模型混合云,并发布《深度用云展望 2025》白皮书及深度用云行动计划,希望通过创新技术、理论沉淀及行动举措,助力政企践行深度用云,加速智能升级。

据介绍,未来,所有企业都会使用大模型。源于长期的行业积累,大型企业拥有丰富的私有数据资源,这些私有数据对大模型的训练至关重要。大型政企由于其业务特点,更倾向于将数据留在本地,确保“数据不出域”。因此,基于混合云的大模型将成为未来行业大模型的重要部署形态,既满足业务创新诉求,也缓解企业对数据安全和隐私的担忧。

华为云 Stack 8.3 在业界率先实现大模型能力基于混合云部署,提供算力平台、云服务、开发套件和专业服务等业界最完整的 AI 生产链,帮助政企客户一站式建立专属大模型能力。华为云 Stack 针对大模型场景做了四大优化

首先,基于原生混合云能力,用户可以将大模型从本地延伸到边缘和公有云,多云协同架构让行业大模型在公有云上训练,在混合云上结合企业本地数据微调,然后推送到边缘云进行推理,实现全场景跨云部署。

其次,通过软硬协同实现算子融合与混合精度的优化,模型训练性能提升 45%。

第三,华为云 Stack 提供 3 类工具套件,让企业能够高效地完成数据清洗、模型开发和应用开发,降低开发门槛。

最后,大模型训练任务通常需要连续执行数天,华为云 Stack 通过无感断点续训的能力,让 AI 训练可以长稳运行 30 天以上。

从会上获悉,目前,华为云 Stack 已经联合 10 多个政企客户基于混合云探索行业大模型。

华为云发布《深度用云展望 2025》白皮书,聚焦未来三年,展望将要在政企市场广泛落地的十大技术和模式,希望与产业界一起出发,帮助更多企业迈向深度用云。

同时,华为云提出深度用云行动倡议,并联合 10 + 伙伴和行业组织,共同发起深度用云行动计划,计划未来三年投入 1 亿人民币,用于能力型伙伴建设、云原生应用开发、行业专家培养、行业标杆打造等领域。

作者:汪淼   来源:IT之家

相关

华为融合
本评论 更新于:2024-2-22 15:59:24
在C114 APP中与业内人士畅聊通信行业热点话题!