与开发者共成长,共筑AI技术生态
会上,华为昇腾生态首席专家张存燕以行业的人才培养为切入点,向大家分享了昇腾面向开发者们的offering发展战略,以及面向行业、高校、初创、个人不同类型开发者的权益和计划。张存燕介绍到,华为深耕根技术,一直致力于打破算力消耗的鸿沟。在昇腾基础软硬件平台上,昇腾一共打造了技术和商业两个生态。技术生态为科研机构、高校、企业、合作伙伴的研发人员提供技术支撑,加速科研创新;商业生态则注重与合作伙伴一起打造面向各行各业的解决方案,真正让AI走入到千行百业,赋能各个产业的智能化改造和智能化升级。
在这两个生态的带动下,昇腾希望打造一个人工智能的“黑土地”,合力为每位AI开发者及每个行业的应用开发者提供强大引擎,共同繁荣国内人工智能产业新生态。
构筑澎湃AI算力,CANN5.0性能再提升
在汹涌的AI时代浪潮中,人工智能技术领域无疑面临着重重困难和挑战。AI算力设施昂贵、专业人才稀缺,整个行业对计算效率和编程易用性的诉求愈发强烈。昇腾CANN运营总监田晓亮便从新计算范式出现、异构计算兴起和大集群等行业新挑战引导发问,介绍了CANN的基础架构及其适配场景。自2018年CANN1.0发布面世,经过三年发展,CANN在技术和生态上都已经有了长足的进步。在性能方面,CANN5.0通过软硬件结合优化,充分发挥了昇腾芯片的算力性能。这主要源自于多项关键技术的突破,如自动流水、算子深度融合、自适应梯度切分、智能计算调优带来的更高效的任务角度和切分策略。
在发展过程中,CANN还非常注重生态发展,通过社区运作,CANN不断创新优化,迭代出了新的产业、新的软件。回应开发者诉求、助力解决行业困境,CANN未来将持续在基础和关键技术上进行突破,“只有基础打得牢、根扎得深,才会有人工智能的繁荣发展”,田晓亮这样强调。
全场景AI计算框架,MindSpore超大模型训练落地实践
近段时间,中文大规模预训练语言模型层出不穷,已经成长到仅加载就需要TB级内存或显存的生态。昇思MindSpore架构师ZOMI酱就针对MindSpore超大模型训练的一些关键技术,进行了一些稍为“硬核”的内容分享。MindSpore在2020年3月份开始开源,到现在的1.5版本,总下载量已经接近100万。快速部署、灵活调试,现在的MindSpore已经能够支撑像鹏城盘古NLP、鹏城神农氨基酸序列生成、华为云NLP模型、紫东太初多模态模型这样的千亿大模型。对于大模型面临的“内存、性能、效率、调优”挑战,MindSpore则分别对应给出了图算融合、Scale out、集群调优等解决方案。
讲起核心技术,ZOMI酱表示,除了通过图的编译把多维度并行融合到框架,“多维度混合自动并行”是MindSpore做得比较好的地方。现今,MindSpore自动并行已经实现5维的并行方式,实现对超大规模的分布式训练及超大规模中文预训练模型的探索。
MxIndex:更快、更便捷、更友好的数据检索SDK
将物理世界中的非结构化数据,如图片、视频、音频通过AI模型转换为特征,是众多AI业务的核心逻辑。昇腾MindX技术专家李明举在给大家介绍数据检索的SDK时,就用简单的语言阐释了普通开发者如何用AI来解决生活中的问题。让AI从学术成果到产业落地,昇腾MindX总结了三座问题大山——算法开发难、应用开发难和业务部署难,而MindX的四个组件“ MindX DL”“ MindX Edge”“MindX Zoo”和“MindX SDK”则对应这三座大山给出了解决方案。
“大数据”“区块链”“元宇宙”,各行各业的概念正潜移默化地改变着我们的生活,昇腾MindX SDK mxIndex更是将目光聚焦在了非结构化数据上。李明举提到,非结构化数据有着非常多潜在的发展空间,在推荐系统、数据挖掘等领域都有良好的发展前景。但同时,机遇与挑战并存,算法问题常常会演化成更大的工程问题,如何在如此多的技术之下去搭建业务,mxIndex在这里给出了答卷。“更快”——带来更高的QPS,更大的吞吐量和更大的底库数据规模;“更便捷”——昇腾拥有开源中最受欢迎的框架之一,而mxIndex在用户迁移上更是兼具了轻体量与便捷性两项优点;“更友好”——清晰操作、在线交流,在用户体验上,mxIndex拥有简明的接口定义,丰富详实的手册和活跃的社区支持。对于大规模特征检索或聚类的应用场景需求,mxIndex能够提供极简易用、高性能的API,助力昇腾AI处理器赋能各类应用。
Sedna,分布式协同AI框架
边缘AI在如今的工业互联网、智慧园区等场景已有着越来越多的应用,但同时还存在着诸多挑战,包括软硬件异构、边缘资源受损、边缘数据异构、边缘小样本和隐私安全等常见问题。会上,华为云边缘云创新Lab高级工程师普杰从应用的角度,向开发者们介绍了华为云在边缘计算尤其是边云协同AI领域的相关探索。
2018年,华为云开源了边缘计算平台项目KubeEdge。作为业界首个云原生的边缘计算平台,KubeEdge通过开放的社区治理连接云原生和边缘计算生态,旨在提供应用协同、资源协同以及数据协同和设备协同的统一标准。
在边缘计算场景中,AI应用需要面对个性化的边缘场景,资源碎片化、数据异构、小样本、数据隐私等问题急需解决。2020年底,KubeEdge社区成立了特别兴趣小组SIG AI,聚焦边缘AI相关的技术讨论、API定义、参考架构、开源实现等,使能AI应用在边缘更好的运行。
2021年初,华为云进一步开源了边云协同AI框架Sedna,基于KubeEdge,实现边与云的协同推理、增量学习、终身学习、联邦学习等核心边缘AI能力,能有效提升模型准确度,降低边缘资源的消耗,保护数据隐私和安全。
普杰提到,Sedna不是想做一个TensorFlow这样的框架,而是基于KubeEdge提供的边云协同的能力,支持现有的AI应用无缝地下沉到边缘,降低边云协同AI应用的构建和部署成本、提升模型的性能并保护数据隐私。
相比传统的公有云AI方式,分布式协同AI具备个性化的边缘场景、更低的响应延迟和更安全的数据隐私保护三大优点。在分布式协同AI领域的探索上,Sedna也遇到了资源碎片化、样本少的技术挑战,KubeEdge社区的特别兴趣小组SIG AI也因此成立。普杰提到,SIG AI不是想做一个TensorFlow这样的框架,而是基于KubeEdge这样的底座提供边缘协同的能力,支持现有的AI类应用,无缝地下沉到边缘,降低构建和部署成本、提升模型的性能并保护数据隐私。
现场实操,在线体验昇腾全栈AI魔力
当天下午,昇腾人工智能应用专场进行了丰富有趣的案例分享和在线实验。现场由昇腾CANN资深技术专家毛红朝、昇腾MindX研发专家陈航、昇思MindSpore资深技术专家xavier和昇腾CANN资深技术专家郑佳带领,为开发者们带来了“基于昇腾CANN的AI应用开发”、“使用MindX SDK开发智能质检应用”、“昇思MindSpore YOLO案例开发到部署介绍”和“基于昇腾CANN的模型迁移”四场实操课程。
共筑AI新高地,共赢智能新未来。伴随着惊喜有趣的现场抽奖环节,开发者们于实践中全方位感受华为面向“端、边、云”的全场景AI基础设施方案,在线体验来自昇腾的全栈AI魔力。
凤凰网广东 李冬秀
