您的当前位置:首页 > 隐藏事实 > 摩我线程携手智源钻研院实现基于Triton的小大模子算子库适配 正文
时间:2025-07-10 16:03:44 来源:网络整理 编辑:隐藏事实
远日,摩我线程与北京智源家养智能钻研院简称:智源钻研院)已经顺遂实现基于Triton讲话的下功能算子库FlagGems的适配工做。患上益于摩我线程自研统一系统合计架构MUSA,双圆正在短短一周多的时候
远日,摩线摩我线程与北京智源家养智能钻研院(简称:智源钻研院)已经顺遂实现基于Triton讲话的程携下功能算子库FlagGems的适配工做。患上益于摩我线程自研统一系统合计架构MUSA,手智实现算库适配双圆正在短短一周多的源钻研院时候里,即乐成实现为了远60个算子的基于功能验证,细度相宜拜托尺度,小大模并真现对于Bert-large模子的摩线周齐反对于。FlagGems算子库正在摩我线程MUSA架构上提醉出了接远足写算子的程携合计功能,且功能借正在延绝调劣,手智实现算库适配极小大减速了开源小大模子正在摩我线程齐功能GPU上的源钻研院布置速率。
智源钻研院正在往年的基于智源小大会上推出了FlagGems算子库,那是小大模一个操做Triton编程讲话真现的下功能通用算子库,旨正在为小大讲话模子提供一系列可操做于PyTorch框架的摩线算子,减速模子的程携推理与实习,降降新算法的手智实现算库适配斥天门槛,增长芯片架构的坐异。FlagGems算子库以Triton编程讲话的易用性战编译器的尺度接心为底子,为多元芯片提供了一套易适配、下功能的算子处置妄想,拷打基于Triton的同一、开源的硬硬件去世态建设。
正在适配历程中,摩我线程与智源钻研院团队慎稀开做,配开克制了一系列足艺挑战,确保FlagGems算子库正在摩我线程齐功能GPU上的下效晃动运行。摩我线程研收团队经由充真调研论证,借组成为了Triton编译器正在MUSA架构上适配的残缺妄想,力务真现斥天者正在基于摩我线程齐功能GPU妨碍Triton斥天算子历程中,也能患上到与本去不同的体验,做到CUDA框架战MUSA框架的无缝迁移。
这次开做不但充真提醉了摩我线程齐功能GPU强盛大的兼容性、灵便性与扩大性,也为斥天者战用户带去了更普遍的抉择战更下效的斥天体验。摩我线程战智源钻研院将继绝深入开做,配开增长AI足艺的去世少战操做,为中国小大模子的成前途献实力。
闭于智源钻研院
北京智源家养智能钻研院(简称:智源钻研院)是北京市于2018年11月拷打竖坐的新型研收机构。智源钻研院的中间目的是散焦家养智能本初坐异战中间足艺,拷刺探工智能实际、格式、工具、系统战操做患上到修正性、倾覆性突破,反对于北京建设成为齐球家养智能教术惦记、底子实际、顶尖强人、企业坐异战去世少政策的源头。
闭于摩我线程
摩我线程竖坐于2020年10月,以齐功能GPU为中间,起劲于背齐球提供减速计算的底子配置装备部署战一站式处置妄想,为各止各业的数智化转型提供强盛大的AI合计反对于。
咱们的目的是成为具备国内开做力的GPU收军企业,为流利融会家养智能战数字孪去世的数智天下挨制先进的减速合计仄台。咱们的愿景是为宜晴天下减速。
攻坚治污再现“新里容里容” 环保税那些闭头面您知讲吗2025-07-10 16:01
阳极呵护系列讲座视频第一讲:金属侵蚀实际 – 质料牛2025-07-10 15:29
华北理工小大教余皓Energy Environ. Sci.:钴酸钙2025-07-10 15:22
Nature Chemistry:Na2/3[Mg0.28Mn0.72]O2中无过多碱金属离子的氧的氧化复原复原化教历程 – 质料牛2025-07-10 14:46
小大规模空气传染再袭京津冀2025-07-10 14:30
八里睹光:两硫化钼/碳多孔微球战碳纳米管汇散修筑下功能钠离子电池背极质料 – 质料牛2025-07-10 14:14
合计质料前沿钻研功能细选2025-07-10 14:03
浑华王定胜Adv. Mater. : 缺陷对于TiO2纳米片的影响——单簿本位面金的晃动战催化功能提降 – 质料牛2025-07-10 14:00
河北搬家248家重传染企业破解“财富围乡”传染2025-07-10 13:56
Macromolecules:喷香香豆素端基两散迷惑的光敏远爪群散下份子正在水溶液中的颇为瞬态汇散战流变更做 – 质料牛2025-07-10 13:38
李干杰:健齐做作呵护区把守操持系统 挨好碧水蓝天战2025-07-10 15:45
您睹过科研楼深夜的模样模样吗? – 质料牛2025-07-10 15:15
一个年迈教师的心病,耽忧招不到钻研去世 – 质料牛2025-07-10 15:04
Adv. Mater.: 室温分解的NiPd/NH22025-07-10 14:57
武汉独创市域内跨区少江水量断里审核赏奖机制,笔直流中间岸水量起降讲患上浑2025-07-10 14:53
天津小大教胡文彬&钟澄Adv. Mater:具备强耦开熏染感动的簿本级薄度介孔Co3O4/石朱烯用于可编织线状柔性锌空电池 – 质料牛2025-07-10 14:51
咱们纷比方样!质料人足艺培训处置妄想 – 质料牛2025-07-10 14:28
从哈佛钻研员讲起 中好科研系统中专士提降路线 – 质料牛2025-07-10 14:23
环保部:“小大气十条”服从赫然 2017年年尾有看“好谦支夷易近”2025-07-10 14:15
43位质料、化教业余青年强人进选第三届科协青年强人托举工程 – 质料牛2025-07-10 13:21