您当前的位置是:  首页 > 新闻 > 国内 >
 首页 > 新闻 > 国内 >

华为云发布GPU共享型AI容器及Istio服务网格

2018-08-29 09:55:08   作者:   来源:CTI论坛   评论:0  点击:


  8月28日,“AI上有信仰的云——华为云中国行2018”成都站如期举行。华为EBG中国区行业云拓展部部长胡维琦在主题演讲《做有信仰的云,在创新的路上加速奔跑》中发布了华为云两款全新产品——GPU共享型AI容器和Istio服务网格。这是继裸金属容器、Windows容器等重大特性之后,华为云在容器领域的又一次技术突破,将极大地推动AI技术的普及,助力“普惠AI”策略加速落地,为广大用户提供“用得起、用得好、用得放心”的AI云平台。
  华为EBG中国区行业云拓展部部长胡维琦做现场发布
  全球首发GPU共享型高性能AI容器
  让人工智能触手可及
  当下,人工智能已成为各行各业的热点和趋势,在实际应用中,企业在不断追求各类AI计算场景下性能和成本的极致体验。容器以其独特的技术优势,已经成为业界主流AI计算框架(如Tensorflow、Caffe)的核心引擎。华为云为了进一步解决企业在AI计算性能与成本上面临的问题,为企业量身打造了AI容器产品。
  华为云AI容器是全球首款支持共享GPU的高性能容器产品,在业界首家实现了多容器共享GPU资源,大幅降低了AI计算的成本,并在AI计算性能上比通用方案提升了3-5倍以上。
  极致性能
  裸金属NUMA架构与高速IB网卡,性能提升3-5倍
  在典型的深度学习模型训练场景下,需要传输和处理海量的数据。
  华为云AI容器运行在高性能的裸金属服务器上,并通过NUMA架构和100G IB网卡实现高速、低延迟的大数据量传输,让GPU充分发挥大规模并行计算的优势,从而大幅缩短训练的时间。经实践验证,深度学习训练对比传统GPU加速方式能够进一步提升3-5倍。
  高效计算
  GPU资源多容器共享调度,计算成本大幅降低
  华为云通过优化K8S容器调度引擎,能够为容器中的AI计算任务分配更细粒度的GPU资源,实现多个AI计算任务共享GPU,在部分AI计算如推理类场景中能够实现更高的资源利用率,从而大幅降低AI计算成本。
  成熟应用
  主流GPU型号全适配,并在华为云EI产品大规模使用
  华为云AI容器已完成多款主流GPU的适配,包括 Nvidia Tesla P4/P100/V100等产品系列,客户可根据不同应用场景灵活选取,以达到最高的性价比。
  华为云AI容器支持Tensorflow、Caffe等主流深度学习框架,并在华为云EI的深度学习、推理平台、人脸/图像/文字识别等多个服务得到广泛应用与验证。
  国内首发公有云Istio服务网格
  让云原生应用治理更简单
  华为EBG中国区行业云拓展部部长胡维琦现场分享到:“在Cloud 2.0时代,容器技术解决了应用快速部署、上线、升级与弹性伸缩等运维效率问题,但应用运行时的灰度发布、流量治理与健康管理等方面仍存在诸多难点。Istio是云原生Cloud Native生态的重要一环,通过提供完整的非侵入式的微服务治理解决方案,能够很好地解决云原生应用的管理、网络连接以及安全管理等应用网络治理问题。”
  华为云在云容器引擎CCE中深度集成了Istio最新版本,并在易用性、可靠性、可视化等方面进行了一系列增强。
  一键启动,与容器引擎无缝整合
  无需用户自行安装,华为云容器引擎CCE已实现Istio的深度集成,只需在创建集群时做一次简单勾选,即可在集群和应用中启用完整的Istio服务网格,实现了开箱即用。
  内置多种灰度发布流程,确保应用平滑升级
  应用上线后,运维面临的一大挑战是如何不中断业务升级,华为云Istio服务网格内置了金丝雀、A/B Testing等多种灰度发布策略,完美地解决了这一难题。用户还可自定义配置,实现更多复杂流量策略。
  图形化应用拓扑,让流量治理可视化
  华为云Istio服务网格提供了可视化的流量监控,异常响应、超长响应时延、流量状态信息拓扑等一目了然;同时,结合华为云AOM/APM服务,提供了详细的微服务级流量监控、异常响应流量报告以及调用链信息,实现更快速、更精准的问题定位。
  智能路由与弹性流量管理,让流量治理更轻松
  华为云Istio服务网格支持根据微服务的流量协议,提供策略化、场景化的网络连接、安全策略管理能力。支持基于应用拓扑对服务配置负载均衡、熔断容错等治理规则,并提供实时的、可视化的微服务流量管理。应用无需任何改造,即可进行动态的智能路由和弹性流量管理。
  云容器引擎CCE(Cloud Container Engine)是华为云提供的企业级容器应用管理服务,致力于为客户提供高安全、高可靠、端到端的容器全栈解决方案,完全兼容Kubernetes社区原生应用和工具,大幅简化了云上自动化容器运行环境搭建。
  目前AI容器与Istio服务已在华为云的CCE容器服务中开展公测
  扫描下方二维码
  申请试用
【免责声明】本文仅代表作者本人观点,与CTI论坛无关。CTI论坛对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。

专题