华为云AI容器:零基本搭建AI计较平台,晋升计较服从50%
现在,企业的数字化转型和智能进级必谈AI,AI在人们一般糊口中的产物和应用也四处可见,如智能音箱、AI相机、人脸付出等。可是,爆炸式增添的数据量、伟大的实习框架和算法,让许多企业现有的AI计较平台变得捉襟见肘:计较服从无法满意营业增进诉求,运营运维本钱也居高不下。华为云AI容器为客户提供更高性价比的算力,更简化了平台运维,晋升AI计较服从50%,加快了AI计较在各行业的落地和成长。 计较劲6年增添30万倍,AI平台扩容本钱高 OpenAI说明陈诉表现,从2012至2018年的6年时刻,AI实习行使的算力增添了30万倍,是同时期摩尔定律增添量的5倍。这意味着,要保持计较速率稳固,不能单单依赖芯片手段的进级,还必需增进计较装备投入。而专业GPU处事器配以高速收集、高速存储等装备,单台均匀本钱在100万阁下,价值奋发,大部门企业难以包袱。 体系日趋伟大,AI平台运维难度激增 起首,差异的营业必要差异的AI实习框架、模子、加快库,如安在同一平台上打点差异的实习框架和模子,怎样将线下实习快速陈设到出产情形带来庞大挑衅。 其次,AI实习和公司营业行使差异的资源打点器材,使得运维团队必要把握和行使多种资源打点器材,保障GPU操作率,增进运维伟大度。 再者,GPU在集群内被差异营业团队共享,团队间的资源和谐也会淹灭不少精神。 公有云+容器化:AI计较平台建树的必选之路 面临上述题目,各企业开始着手构建基于公有云和容器的AI计较平台,基于公有云的容器平台,能给客户带来什么样的甜头呢? 更快速的获取算力资源 面临AI计较必要的超大局限算力,自建IDC扩容周期长、一次性投入大,后期维护本钱高,回收公有云,可以即申请即用,快速增补企业IDC算力的不敷,同时具备更低的行使本钱、无需存眷基本办法维护、停止资源闲置造成挥霍等上风,成为了客户扩充算力的最佳选择。 低斜阳常行使和运维难度 用户搭建深度进修实习情形,必要筹备带GPU的呆板、安装Python、TensorFlow、GPU驱动等,假如要从开拓情形到测试情形,再从测试情形到天生情形,涉及情形迁徙进程中必要花很大精神来担保情形的同等性。 容器带来的尺度化打包手段可以提供了绝佳的办理方案,将相干软件一并打包到镜像中,一次构建,即可在差异平台上运行,极大低落安装、陈设的伟大度;同时各容器间彼此断绝,可实现多实习框架并存,并且每一个框架都可以独立举办进级而不会影响其他营业,低落的一般运维的难度,让客户可以将更多的精神齐集在AI实习上。 可是,我们在与用户交换进程中发明,用户固然承认公有云+容器的模式,可是在公有云上自建一套容器化的AI计较平台,对部门用户仍存在较大的技能门槛,尤其是那些尚未打仗过容器的用户。华为云就此推出了面向AI计较场景的容器处事——AI容器,并于2018年在华为全联接大会宣布,本年我们对AI容器举办了进级,在机能、易用性、可运维等方面都有了很大的晋升。 华为云AI容器:更易行使和运维,晋升AI计较服从50% 开箱即用 免去基本办法运维 AI容器回收华为云容器实例(CCI)作为基本办法层,得益于CCI的Serverless架构,用户完全无需体谅主机的建设、打点、运维,而只必要在行使时申请所必要的算力资源即可(算力范例、CPU核数、内存量),省去了基本办法的一般运维事变,用户可以越发专注于AI计较自己。 高效调治,快速获取海量算力 AI容器基于全新的Volcano平台举办使命调治打点,Volcano是华为云高机能批量计较平台,具有更高的调治机能,最高可达1000容器/秒,将算力获取的服从晋升近10倍。 同时,有了Volcano的加持,AI容器还可以基于拓扑和资源亲和举办使命调治,按照计策将关联使命调治到统一物理节点或二层收集内,极大的晋升了AI实习进程中使命间通讯及数据交互的服从。 秒级计费,资源性价比更高 AI实习时客户必要快速、多次计较举办迭代,会对资源举办频仍的申请、开释,AI容器回收按秒计费和套餐包的计费方法,真正做到按行使付费(PAYU),停止客户回收包周期等方法购置资源后,操作率不敷而造成的挥霍。 开放生态 支持主流实习框架 跟着AI平台容器化的深入,大量实习框架都已宣布其容器版本,AI容器今朝已支持Tensorflow, Caffe, Mxnet, Pytorch, MindSpore等近十种主流实习框架,用户可以将实习代码滑腻的迁徙上云。 多样算力 用户选择越发机动 AI容器的能提供昇腾、鲲鹏、x86和GPU等范例的算力资源,用户可以实现一套平台运行差异范例的应用,按照应用特点机动选择算力资源,到达资源的最优设置。 (编辑:河北网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |