铭牌厂家
免费服务热线

Free service

hotline

010-00000000
铭牌厂家
热门搜索:
行业资讯
当前位置:首页 > 行业资讯

瞧一瞧:华为昇腾异构计算架构CANN 助力应对AI发展新挑战!-电子发烧友网

发布时间:2022-04-12 04:36:03 阅读: 来源:铭牌厂家
华为昇腾异构计算架构CANN 助力应对AI发展新挑战!-电子发烧友网

电子发烧友网报道(文/李弯弯)人工智能在21世纪以后,经历了PC、互联网以及移动互联网这几波浪潮之后,又进入了新一波浪潮,从2012年人工智能<什么时候可以司法强拆
u>神经网络取得很好的成绩开始,快速发展,预计2025年AI产业市场规模将达到7.44万亿美金,未来五年年均增长30%

近两年人工智能正从单点技术走向真正通用技术,一是从大模型走向超大模型,从GPT-2的15亿参数,到GPT-3的1750亿参数,鹏程·盘古的2000亿参数,再Switch Transformer的16000亿参数。二是从单模态走向多模态。简单来说就是容量需要更大,学习的领域需要更丰富,这带来的趋势就是更智能化。


华为昇腾计算业务副总裁金颖日前在某论坛上表示,这也给人工智能的发展带来挑战:一是随着模型越来越大训练花费越来昂贵,比如GPT-3需要花费460万美金,BERT平均需花费1.5万美金;二是训练更大的模型,对算法、系统的难度要求更高,未来开发难度会加大,包括算法开发难、应用开发难、业务部署难;三是人才本就稀缺,人才缺口很大,目前中国人工智能人才供需比为10%,中国人才缺口超过500万。


金颖认为,面对上述新趋势、新挑战、新问题,异构计算架构对上适配多框架,对下适配多异构芯片,同时针对多样化应用场景,提供高效易用的编程方式,是突破AI产业平台的关键。

为此华为发布了AI全栈硬件架构,包括底层的系列硬件、芯片,以及异构计算架构,AI框架,行业应用等,跟绝大多数的AI硬件架构一样,其中华为昇腾AI全栈的核心是异构计算架构CANN,发挥承上启下的关键作用。AI异构计算架构CANN是华为针对AI场景推出的异构计算架构,通过提供多层次的编程接口,支持用户快速构建基于Asend平台的AI应用和业务。


CANN包含统一APP编程语言,提供一套标准的ACL编程接口,对应用程序开发者屏蔽底层多种芯片差异,提升用户APP编程易用性;统一网络构图接口,提供了标准的昇腾计算AIR,支持多框架,支持用户在昇腾芯片上快速部署神经网络业务;高性能计算引擎以及算子库,通过高性能编译引擎、执行引擎、调优引擎和预置高性能算子库,支撑客户快速部署神经网络业务、降低部署成本并最大程度发挥昇腾计算能力;以及驱动、虚拟化、媒体、集合通信等基础服务能力。


华为即将发布最新发的CANN5.0版本,通过软硬件协同,相比之前的版本性能再翻倍,该架构支持多种AI框架,包括Mindspore、TensorFlow、飞桨、Pytorch、ONNX等。而且性能还在持续提升中,金颖表示,该版本ResNet-50训练速度保持业界领先,最新的数据已经小于16s。完善生态满足度方面,亲和昇腾的图编译技术已经超过1300高性能算子,支持ModeZoo 400+模型全面覆盖典型场景应用。

华为以开放社区的方式运营,从目前的成绩来看,CANN已经达到支持40万昇腾开发者,各项数据全面翻倍,社区已经成为开发者大本营,预计到2022年将发展到百万开发者级别。科研合作超过200家,华为与国内多所高校有很好的合作,北京大学田永鸿教授表示,使用华为人工智能全栈解决方案,在今年的MLPerf评测中之所以能够取得如此优异的成绩,其中关键因素就是CANN。

金颖表示,未来在异构计算架构领域,希望更多提供极致性能、极简开发、开放生态,推动这个产业进入各个行业贡献我们的力量,也希望未来在更多的标准领域,汇聚产业的力量,推动AI产业的发展。