电子发烧友网>处理器/DSP> > 正文

燧原科技亮相Hot Chips大会,详解邃思芯片架构

2021年08月26日 16:25 ? 次阅读

2021年8月25日,中国上?!裉祆菰萍荚谝荒暌欢鹊腍ot Chips大会上由首席架构师刘彦和资深芯片设计总监冯闯一起介绍了第一代云端训练芯片“邃思1.0”的架构细节。Hot Chips是全球高性能微处理器和集成电路相关的重要会议之一,芯片行业巨头每年都借此机会展示自己公司的最新成果,包括处理器体系结构,基础架构计算平台,内存处理等各类技术。

pYYBAGEnUGqAAbguAAGb2pXtfWA140.png

燧原科技第一代通用人工智能训练芯片“邃思1.0”封装示意图

邃思1.0是燧原科技2019年12月发布的第一代云端AI训练芯片,采用众核结构,其计算核心采用了燧原科技自研的GCU-CARE计算引擎。整个SOC拥有32个GCU-CARE计算引擎,组成4个计算群组,全面支持常见AI张量数据格式(FP32/FP16/BF16, INT8/INT16/INT32),更全面地支撑客户业务。CARE还创新地通过复用张量核心,用最有效的晶体管效率提供了标量、向量、张量以及多种数据精度的计算能力。

GCU-DARE数据架构,面向数据流优化,在数据流动中进行处理。512GB/s的HBM和200GB/s的GCU-LARE互联,数倍于传统GPU、CPU;强劲的分布式片上共享缓存,提供10TB/s的超大带宽;可编程共享缓存,可控线程内、线程间数据常驻共享,消除不必要的IO访问,既降低了数据访问延时,又节约了宝贵的IO带宽;同时,DARE架构还提供数据异步加载接口,支持数据与运算的流水执行,提高运算并行度。

四路 GCU-LARE智能互联,200GB/s的高速低延时片间互联接口,灵活支持不同规模的计算需求,可支持千卡级规模集群,为大中小型数据中心提供基于不同需求的人工智能训练产品组合。

pYYBAGEnUHiAS9qwAAKi5F91Xf4988.png

“邃思1.0”SOC

邃思1.0人工智能加速芯片专为云端训练场景设计,支持CNN、RNN、LSTM、BERT等常用人工训练模型,可用于图像、流数据、语音等训练场景。采用标准PCIe 4.0接口,广泛兼容主流AI服务器,可满足数据中心大规模部署的需求,且能效比领先。

演讲的最后部分,刘彦还介绍了上个月刚刚在世界人工智能大会上发布的“邃思2.0”训练芯片。经过全新升级迭代后,邃思2.0的计算能力、存储和带宽、互联能力较第一代训练产品有巨大提升,对超大规模的模型支持能力获得显著增强。由此,燧原科技成为国内首家发布第二代人工智能训练产品组合的公司。

邃思2.0进行了大规模的架构升级,针对人工智能计算的特性进行深度优化,夯实了支持通用异构计算的基??;支持全面的计算精度,涵盖从FP32、TF32、FP16、BF16到INT8,单精度FP32峰值算力达到40 TFLOPS,单精度张量TF32峰值算力达到160 TFLOPS。同时搭载了4颗HBM2E片上存储芯片,高配支持64 GB内存,带宽达1.8 TB/s。GCU-LARE也全面升级,提供双向300 GB/s互联带宽,支持数千张云燧CloudBlazer加速卡互联,实现优异的线性加速比。

poYBAGEnUISANyYWAAMaHrGnIX4353.png

燧原科技第二代通用人工智能训练芯片“邃思2.0”

而同步升级的驭算TopsRider软件平台,成为燧原科技构建原始创新软件生态的基石。通过软硬件协同架构设计,充分发挥邃思2.0的性能;基于算子泛化技术及图优化策略,支持主流深度学习框架下的各类模型训练;利用Horovod分布式训练框架与GCU-LARE互联技术相互配合,为超大规模集群的高效运行提供解决方案??派兜谋喑棠P秃涂衫┱沟乃阕咏涌?,为客户模型的优化提供了自定义的开发能力。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

中国最大的计算芯片诞生!燧原科技发布邃思2.0 ...

燧原科技于7月7日在上海发布第二代人工智能训练产品——“邃思2.0”芯片、基于邃思2.0的“云燧T2....
发表于 2021-07-08 21:34? 4831次阅读
中国最大的计算芯片诞生!燧原科技发布邃思2.0 ...

燧原科技首发国内第二代人工智能训练芯片“邃思2....

燧原科技今日发布第二代人工智能训练产品——“邃思2.0”芯片、基于邃思2.0的“云燧T20”训练加速....
发表于 2021-07-07 17:15? 1282次阅读
燧原科技首发国内第二代人工智能训练芯片“邃思2....

燧原科技完成C轮融资18亿,中信产业基金、中金资...

2021年1月5日,中国上?!ㄗ⑷斯ぶ悄芰煊蛟贫怂懔ζ教ǖ撵菰萍冀袢招纪瓿蒀轮融资18亿元人....
发表于 2021-01-05 10:20? 1330次阅读
燧原科技完成C轮融资18亿,中信产业基金、中金资...

燧原科技发布首款人工智能推理产品云燧?i10 将...

? ? ? 燧原科技发布首款人工智能推理产品“云燧i10”。这是一款面向云端数据中心的高性能推理卡。....
发表于 2020-12-28 11:24? 1458次阅读
燧原科技发布首款人工智能推理产品云燧?i10 将...

上海交通大学与燧原科技联合创办的云端AI加速系统...

? 2020年12月10日下午,上海交通大学和燧原科技联合创办的“云端AI加速系统联合研发中心”在上....
发表于 2020-12-28 11:22? 841次阅读
上海交通大学与燧原科技联合创办的云端AI加速系统...

燧原科技发布了首款面向云端的高性能推理卡

云端AI推理需求将在2022年迎来爆发。继去年底发布首款面向数据中心的AI训练芯片“邃思”及加速卡“....
发表于 2020-12-22 10:09? 841次阅读
燧原科技发布了首款面向云端的高性能推理卡

燧原科技发布首款人工智能推理产品云燧i10,将于...

上海2020年12月21日 /美通社/ -- 燧原科技今日发布首款人工智能推理产品 “云燧?i10”....
发表于 2020-12-22 09:48? 1688次阅读
燧原科技发布首款人工智能推理产品云燧i10,将于...

CadenceLIVE China用户大会燧原科...

CadenceLIVE China用户大会今年采用了线上会议的形式,由行业和技术专家直播分享精彩技术....
发表于 2020-09-26 09:34? 1512次阅读
CadenceLIVE China用户大会燧原科...

燧原科技宣布“云燧T10”落地商用

中国人工智能产业的发展,需要高性能和普惠的算力提供支撑。但在技术链最高端的云端训练领域一直处于高度垄....
发表于 2020-09-22 11:45? 2114次阅读
燧原科技宣布“云燧T10”落地商用

燧原科技使用Cadence Palladium ...

Palladium Z1平台为燧原科技的设计团队提供了更高的生产力,助其满足快速发展AI/ML市场越....
发表于 2020-08-26 09:55? 1772次阅读
燧原科技使用Cadence Palladium ...

至晟微电子完成近亿元A轮融资;燧原科技完成B轮融...

1、丰疆智能获过亿人民币A1轮融资,加速智能农机的量产和交付 5月8日消息,丰疆智能已完成来自大湾区....
发表于 2020-05-11 09:43? 4480次阅读
至晟微电子完成近亿元A轮融资;燧原科技完成B轮融...

燧原科技宣布完成B轮融资7亿元人民币 将继续第二...

作为国内第一家以高端人工智能训练产品切入数据中心市场的初创公司,燧原科技去年12月发布了基于“邃思”....
发表于 2020-05-07 09:52? 1967次阅读
燧原科技宣布完成B轮融资7亿元人民币 将继续第二...
最好看的最新高清中文字幕,我不卡影院午夜伦不卡,亚洲国产在线精品一区在,yw193.尤物影院 南漳县| 焉耆| 肇州县| 阳高县| 寻甸| 读书| 墨脱县| 紫阳县| 辽宁省| 镇安县| 东阳市| 皋兰县| 华蓥市| 德昌县| 教育| 长武县| 金秀| 台中县| 杭州市| 罗源县| 罗山县| 桐乡市| 博野县| 民乐县| 资溪县| 康乐县| 迭部县| 庆安县| 靖西县| 界首市| 广昌县| 永吉县| 抚远县| 达拉特旗| 襄垣县| 开江县| 朝阳县| 广元市| 高安市| 育儿| 唐海县| http://444 http://444 http://444 http://444 http://444 http://444