颐和厅成功召开。会上,华为昇腾计算业务副总裁刘鑫发表演讲介绍昇腾原生进展,智谱CEO张鹏作分享,张鹏简要介绍了昇腾对自主创新的智谱大模型的助力,以及正在打造的基于昇腾的第四代代码模型CodeGeeX4和多模态模型CogVLM2-video。
其中,代码生成大模型CodeGeeX4的新版本基于昇腾AI与昇思AI框架训练,依托昇腾与昇思的多维混合分布式并行技术等软硬件能力等,将大幅提升模型开发、训练的效率及模型精度。
第四代代码模型 CodeGeeX4堪称代码生成大模型的“六边形战士”,已经发布的CodeGeeX4-ALL-9B 仅用百亿级参数实现模型精度超越业界主流产品。在NaturalCodebench等测试基准上196体育app官网,相对于更大的模型实现了性能反超。
CodeGeeX4单一模型实现编程开发全流程覆盖,包括需求设计、前端开发、后端开发、数据处理等场景,支持代码补全和生成、代码问答、代码解释器、工具调用、联网搜索、项目级代码问答等全面能力。模型长序列达128K,支持中文、英文、俄语、法语、西班牙语等20+自然语言和300+编程语言。同时196体育app官网,在模型推理可实现单卡部署,最低24GB显存即可进行量化推理,用户可在本地私有化部署,保护企业代码安全。
多模态大模型CogVLM2-video实现视频生成文本能力,支持2K序列长度、224×224分辨率的视频理解以及中英文回答等功能。测试实践显示,CogVLM2-video在多个视频问答任务上达到了 state-of-the-art (SOTA模型)的性能,并能够实现一分钟内的视频理解,在几个主流性能测试数据集(MVBench, VideoChatGPT-Bench and Zero-shot VideoQA datasets)中,CogVLM2-video也表现不俗,展现出全面竞争力,同时在多类主要指标上完成对其他模型的领先。
CodeGeeX4在训练过程中,调用昇腾原生的融合算子,利用昇思Mine AI框架的提供的多维混合分布式并行能力,通过对流水交织并行、tensor模型并行的优化,解决内存瓶颈、降低计算空泡、提升通信效率,实现“计算、网络、存储”协同优化,对比同等规模参数的模型,训练效率20%提升,加速模型的迭代创新。
另外,该模型也采用MindSpore 2.3版本原创的多级编译技术,开启O1编译选项增加自动算子融合优化,以接近动态图的启动时间获取了图模式下接近理论值的内存复用率,进而降低重计算比例,相对动态图获得15%的性能收益。
未来,智谱将与昇腾AI持续携手,打造更多领先的自主创新大模型,加速人工智能产业发展,助力中国千行百业的智能化转型,共同迈向智能新世界。
自从昇腾全面启动原生开发,越来越多的生态伙伴选择昇腾,大模型生态从“应用迁移”走向“原生开发”,充分依托昇腾AI基础软硬件平台和完备的原生开发工具,提升开发效率、强化模型性能、加速应用落地,面向不同行业客户提供个性化的解决方案,与昇腾共同推进中国人工智能产业的蓬勃发展。
AI开发者创享日·广东站在广州成功举办。本次活动汇聚人工智能领域顶尖人才,为开发者带来
“AI+鸿蒙”高算力开发板 /
平台具有高性能、低功耗、易扩展、软件栈全面成熟等优势,其产品和技术在国内众多领域实现了广泛应用;作为
平台EA500I边缘计算盒子的实操指南 /
卓越中心正式成立 /
加速 /
卓越中心正式成立 /
社区回应! /
技术论坛”,软通动力数字基础设施与集成事业部总经理谢睿受邀出席、软通动力数字基础设施与集成事业部技术总监单继岭
计算产业前沿技术及应用发展方向,加速行业智能化升级。兆瀚使能,共绽AI“光芒”作为华为“
腾开发者大会 /
的IntelliCore AI解决方案一体机,提供全方位的AI与数据服务,帮助企业构筑竞争新优势,
的IntelliCore AI解决方案一体机 /
APN,共同推动人工智能行稳致远 /
是目前开发板市场中所具备的最大算力,能覆盖生态开发板者的主流应用场景,让用户实践各种
场景,并为其提供配套的软硬件。而价格更是极为亲民,8TOPS、8GB内存的创客价/预售价仅为799元,8TOPS、16GB内存的创客价/预售价仅为999元。 香橙派总经理赵一帆与华为
AI开发板 /
AI框架全栈深度介绍 /
芯片和a100芯片的区别 随着现代社会的发展和技术的不断进步,计算机技术也在不断地进化和
。随着大数据、人工智能等技术的快速发展,高性能计算机已经成为了当今技术领域所必需的东西。而高性能计算机
涂鸦智能再度入围Gartner《 中国智慧城市和可持续发展技术成熟度曲线》报告
基于RK3588J的6路MIPI CSI视频采集案例分享,多路视频系统必看!
基于OpenHarmony标准系统的C++公共基础类库案例:SafeBlockQueue
【核桃派ZeroW开发板体验连载】打造智能音箱,一个简化版的“小爱同学”