软件开发资讯 通讯效果超98%！壁仞科技完了中国首个三种异构芯片混训时候｜钛媒体独家
发布日期：2024-09-09 11:27 点击次数：129
外洋限令履行近一年后，AI 芯片公司壁仞科技（Biren Technology）如今忽视发声，公布其在算力架构层面的最新时候发扬。
9月5日，钛媒体AGI独家获悉，行将在2024各人AI芯片峰会上，壁仞科技将初度公布壁仞自主原创的异构GPU协同检会决议HGCT，业界初度支合手3种及以上异构GPU混杂检会归并个大模子，用一套长入决议支合手多种不同型号、不同厂商的GPU，况兼一转代码适配多种框架。
壁仞HGCT的异构协同通讯效果大于98%、端到端检会效果90-95%，从而松弛了大模子异构算力孤岛贫寒。
壁仞科技副总裁、AI软件首席架构师丁云帆向钛媒体AGI独家暗示，这是业界初度支合手3种及以上（壁仞GPU+英伟达GPU+其他国产芯片）异构GPU同期检会一个大模子。同期，当今壁仞科技打造的软硬一体、全栈优化、异构协同、开源洞开的大模子举座处治决议不错完了千卡集群、千亿参数的自动断点续训小于10分钟，15天衔接检会不中断，4天衔接检会无故障。
1 三区分析（三区划分：一区01-12段12码，二区13-24段12码，三区25-35段11码）
上期龙头开出05，与前期相比点位上升，本期预测龙头点位不变，参考05；
壁仞科技还显现，其正连合客户、和谐伙伴、科研机构共同鼓吹异构GPU协同检会生态，具体包括：中国移动、中国电信、商汤科技、国网智能电网盘问院有限公司、上海智能算力科技有限公司、上海东说念主工智能实验室、中国信息通讯盘问院等。
据悉，在此之前，AI Infra公司无问芯穹的4+2芯片，最多支合手2种GPU同期检会。
壁仞科技成立于2019年，主要研发高性能通用GPU，竭力于作念自主原创的高性能GPU软硬件体系，打造国产自主智能狡计产业生态。
壁仞科技独创东说念主、董事长、CEO张文曾暗示，“芯片行业格外是通用智能芯片行业，是典型的老本密集和东说念主才密集型的行业，加上大界限场景应用，组成了鼓吹企业迈向收效的三大身分。”
投融资层面，钛媒体App了解到，适度当今，壁仞科技共完成总数进步50亿元东说念主民币的融资，投资方包括启明创投、IDG老本、华登中国，吉利集团、高瓴创投、格力创投、松禾老本、云晖老本、国盛老本、招商局老本等机构，是中国GPU芯片领域迫切的“独角兽”企业。
(图片开首：钛媒体App裁剪拍摄）
试验上，算力当作数字经济的中枢坐褥力，是刻下鼓吹AI、大数据、物联网等时候立异与应用的基础复旧，而GPU和 AI 芯片则是算力中的中枢身分。
跟着ChatGPT激发各人 AI 大模子快乐，算力需求束缚增长，研发成本束缚普及，同期列国面对“主权AI”的争夺。那么，软件开发资讯如安在有限的大模子算力和集群界限下，期骗软件优化效果和异构集成步调，从而提高芯片性能，以及增长算力界限，就变得异常迫切了。
但刻下，英伟达和国产芯片之间的异构协同，即不同的GPU软件栈怎么互相和会，是刻下围绕国产算力怎么变得好用的迫切课题之一。
以上海临港的一个集群为例，其使用了22家国产芯片公司的58款 AI 芯片家具，通过万般芯片扩大算力供给，使得适配检会框架破钞较长，总参预成本达到约10000东说念主天。其中，适配成本约为3东说念主天/算子，模子适配成本约为10东说念主天/模子，通讯库和初始时适配成本约为500东说念主天。同期大齐的异构芯片酿成了算力孤岛，无法有用团聚支合手更大模子检会的算力需求。
丁云帆坦言，刻下异构GPU协同检会仍然存在诸多挑战，如异构GPU互联互通难、异构GPU通讯效果低、异构GPU协同检会木桶效益、异构GPU协同诊治难、怎么兼容不同硬件(英伟达、多种国产芯片)等。
小程序开发为了处治用户需乞降时候挑战，壁仞科技团队攻坚异构GPU检会难点，自主研发出原创异构GPU协同检会决议HGCT，通过异构诊治、异构通讯、异构拆分三层架构，完了了一套长入决议支合手多种不同型号、不同厂商的GPU，业界初度支合手3种及以上异构GPU混杂检会归并个大模子。
壁仞科技暗示，这一异构GPU协同检会决议关于行业端有两个真谛：1、该决议最终价值完了了国产GPU和英伟达GPU的异构共存，松弛异构算力孤岛贫寒，加速国产GPU的落地转移，助力国产大模子落地；2、该决议赋能通缱绻力产业发展，壁仞HGCT决议具备普适性、易用性、兼容性，助力最终客户完了多种异构算力团聚，最大化异构GPU集群期骗效果。
另外，基于已落地的千卡算力集群和时候智商，壁仞科技还推出BIRENSUPA生态决议，基于洞开的 AI 算力软件生态体系，赋能运营商、智算中心、大模子、动力、金融等领域的客户和斥地者。
“AI 芯片是一个时候密集型的产业，最初要有填塞强的时候，这不是‘谎话无补’，而是需要东说念主才、资金和产业领域的融会度，芯片不可犯错，只有有一处特地，有可能即是致命特地。因此，企业需跨过许多阻遏，阛阓也需要给 AI 芯片企业更多的耐性。”丁云帆对钛媒体App暗示。
作家｜林志佳软件开发资讯，裁剪｜胡润峰）