业界首款智算中默算力调治软件！海潮重磅宣布AIStation推理平台

4月9日,2020海潮云数据中心相助搭档大会(IPF2020)在线上进行,海潮重磅宣布全新AIStation人工智能推理处事平台,这是业界首款智算中默算力调治软件产物,是专为企业级AI出产情形打造的AI推理处事平台,可实现推理处事资源火速调配,支持多源模子同一调治,使模子陈设从几天收缩到几分钟,将有力地辅佐企业轻松陈设AI推理处事,从而大幅晋升AI交付和出产服从。

当前,AI模子开拓进入到出产陈设阶段面对着多重坚苦和挑衅:AI模子必要颠末大量的调试和测试才气陈设上线,这一进程凡是必要2-3天;AI线上处事计较资源一样平常较牢靠,对付突发需求资源相应慢,营业扩展难;AI模子来历差异,同一打点也很坚苦。企业但愿可以无缝跟尾AI模子实习开拓与推理陈设,举办高效的资源调治和模子打点,收缩营业上线周期。

最新宣布的海潮AIStation推理平台是企业级AI推理处事平台,通过弹性可伸缩架构、低耽误轻量化计划、A/B测试转动宣布、多模子加权评估等重要技能创新,辅佐企业高效操作AI计较资源,快速陈设推理处事。AIStaion推理平台具有一键陈设、快速相应、日记监控、资源管控、数据处理赏罚等成果,是成果全面强盛的AI资源平台。

AIStation推理平台支持当地On-Premise和云端Cloud陈设,担保处事的可得到性和营业持续性,实现了AI模子从开拓情形到出产陈设繁杂进程的自动化快捷操纵,将模子陈设时刻从两三天低落到几分钟。

在资源调治方面,AIStation推理平台可以或许火速调配处事资源。回收创新的弹性可伸缩架构,可按照推理处事资源需求的变革实时调解资源配给,将相应突发需求的实例陈设时刻从几小时收缩到几分钟。而且支持新模子宣布前A/B测试,在现实营业场景中验证模子有用性,担保推理营业的安详、靠得住,同时停止了流量切换所导致的集群负载压力。

在模子打点方面,AIStation推理平台实现了多源模子同一调治。通过同一平台打点多源、多场景模子的推理处事,及时掌控全局资源,对模子处究竟现综合调治和动态陈设。统一资源池可同时支持多家模子处事,将资源操作率从40% 进步到80%。而且可实现多模子加权评估,通过对差异预实习模子的计较功效举办自界说权值配置,有用晋升现实营业场景中猜测功效的靠得住性,构建靠得住可信的智能体系,有用低落误判率。

之前海潮推出的AIStation实习平台已经得到普及应用,该平台通过计较资源细粒度调治、实习数据缓存加快、漫衍式实习自动编排等计策,行使户的AI计较资源操作率进步到90%以上,大幅收缩了模子开拓周期。跟着本次海潮AIStation推理平台的面世,AIStation资源平台全面支持实习与推理两大场景,实现从模子开拓、实习、陈设、测试、宣布、处事的全流程一站式高效交付。

海潮AI&HPC总司理刘军暗示:“智算中心是人工智能新基建,它出产和供给人工智能计较力,是社会经济运行的伶俐基本办法。而要让智算中心充实开释算力,就必要按需机动调治算力。AIStation对付智算中心新基建的意义,就相等于电厂和电网的焦点调治体系,它可以或许按照AI应用需求高效调治AI算力资源,辅佐企业加快AI研发创新、提速AI出产交付,让企业更专注于AI开拓自己,从而赋力更多创新也许,加快AI落地应用。”

海潮是人工智能计较的率领品牌,AI处事器中国市场份额保持50%以上,并与人工智能领先科技公司保持在体系与应用方面的深入细密相助,辅佐AI客户在语音、语义、图像、视频、搜刮、收集等方面取得数目级的应用机能晋升。海潮与相助搭档共建元脑生态,共享AI计较、资源与算法三大焦点平台手段,助力行业用户开拓并陈设属于本身的“行业大脑”,加快推进财富AI化落地。

（编辑：河北网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!