7月18日,于上海举办的2025年RISC-V中国峰会人工智能分论坛上,SiFiveAI/ML团队高级工程师陈彦蓁发表了题为《打造RISC-V可扩大AI/ML软件平台,从PyTorch到SiFiveXM平台的完备部署流程》的主题演讲。她体系性地分享了SiFive于RISC-V架构上构建高效AI/ML软件栈的技能结果,并展示了BEV(俯瞰图)感知模子等繁杂AI使命于RISC-V平台的端到端部署实践,为行业提供了从算法到硬件的全栈解决方案。

SiFiveAI/ML团队高级工程师陈彦蓁
全栈优化:构建RISC-VAI/ML软件生态陈彦蓁起首先容了SiFiveAI/ML软件栈的焦点架构。该软件栈以开源项目IREE(IntermediateRepresentationExecutionEnvironment)为基础,联合SiFive自研的LLVM编译器及SKL(SiFiveKernelLibrary)库,实现了对于RISC-V指令集的高度优化。经由过程撑持PyTorch等主流框架的模子转换,SiFive的软件栈可以或许将年夜型语言模子(如LLaMA)及繁杂感知模子部署至RISC-V平台,并提供端到真个高机能推理能力。

于技能实现上,SiFive经由过程MLIR(多级中间暗示)编译器优化内存层级计谋、并行化计较使命,并使用矩阵扩大指令(MatrixExtension)加快要害运算。例如,其MatrixExtension经由过程引入TileState机制(撑持差别尺寸的矩阵块存储),显著晋升了矩阵乘法及转置操作的效率。陈彦蓁提到,经由过程调解TileElementWidth(TEW)参数,开发者可按照硬件资源动态配置TileState数目,从而于机能与功耗之间取患上均衡。
硬件协同:SiFiveXM平台的冲破性设计作为软件栈的底层支撑,SiFiveXM系列处置惩罚器依附高并行性架组成为AI模子部署的要害。陈彦蓁展示了X390Core处置惩罚器的多核设计,其同享L2缓存及高带宽互联接口(INTERFACE)可以或许高效处置惩罚年夜范围数据流。

XM平台经由过程集成矩阵引擎(MatrixEngine)及向量扩大(RVV),实现了标量、向量与矩阵运算的协同加快,特别于处置惩罚BEV感知模子等需要高吞吐量的场景中体现凸起。

端到端流程:PyTorch模子的RISC-V适配实践针对于PyTorch模子的部署挑战,SiFive提出了一套完备的迁徙方案。陈彦蓁以开源的BEVFormer感知模子为例,申明怎样经由过程ONNX格局转换、IREE编译东西链优化和自界说算子注册,将模子适配至RISC-V平台。这一流程不仅兼容Transformer架构的多视角感知需求,还有经由过程同一的编译流程天生单一履行文件,年夜幅简化了异构计较情况下的体系集成难度。

传统SoC架构中,加快器与主CPU之间的数据搬运常致使高延迟,而SiFiveXM平台经由过程同一内存及计较单位,实现了低延迟、高并发的模子履行。 陈彦蓁指出,这一特征于动态物体追踪等及时性要求高的场景中尤为要害。

将来瞻望:鞭策RISC-VAI生态成长陈彦蓁总结称,SiFive的AI/ML软件栈已经显著缩短模子部署周期,并经由过程开源协作鞭策生态设置装备摆设。将来,团队将连续优化年夜语言模子(LLM)及感知模子于RISC-V上的机能,同时摸索PyTorch原生运行的撑持,进一步降低开发者门坎。她夸大: 咱们期待与学术界及财产界互助,将更多AI模子带入RISC-V世界,配合构建开放、高效的AI计较生态。
责编:Luffy 本文为EET电子工程专辑原创文章,禁止转载。请尊敬常识产权,背者本司保留究查责任的权力。 AI设计时代的芯片及体系变患上相称繁杂,详细该怎么解决万万亿验证周期带来的巨年夜挑战,HAV硬件辅助验证又是怎样阐扬作用的? 只管年夜量资金投入AI练习,但推理——AI现实运行并创造价值的环节,才是真正驱动将来立异与贸易价值的要害。于这场转型中,具可扩大性且高效率的计较,于将来会变患上越发主要。 半导体财产正履历一场由人工智能(AI)突起以和传统摩尔定律放缓所驱动的要害转型。怎样于满意史无前例的AI算力需求的同时,还有可解决能效、安全性与靠得住性等要害挑战,正成为全行业存眷及会商的重点。 跟着人工智能、云计较及5G技能的迅猛成长,传统铜互连技能已经逐渐迫近其物理极限。但光互连技能依附其高带宽、低损耗及长间隔传输上风,正从数据中央边沿向焦点渗入,而SerDes IP与线性驱动光学的立异联合,正于加快这一转型进程。 卖力任的赋能技能实现边沿AI周全合用 当部门人仍于摸索AI的运用方式时,恩智浦已经着眼将来,提出要害问题:怎样确保AI以安全、靠得住且卖力任的方式运行? 智能与无人装备全方位安全将成为一座巨年夜金矿——功效安全数分 跟着诸如智能驾驶汽车、载人/货无人机、无人农机、各类专用及消费呆板人等智能与无人装备广泛进入咱们的事情及糊口,这些装备的安全性已经成了一个值患上存眷的主要话题。它们的安全运行与装备自身、搭客以和周边的职员及物品的安全紧密亲密相干。 计较机体系中,1MB存储容量很年夜,并且也很贵,要理解 1MB 有多年夜及多贵,最直不雅的方式就是计较它于芯片上占用的物理面积。我们用现今开始进的工艺之一,台积电的 5 纳米(nm)工艺节点来算一笔账。按照 据博主数码闲谈站爆料,今朝只有一家骁龙8 Elite 2机型暂定9月登场。根据此前多方动静,小米16系列将首发骁龙8 Elite 2,而且于9月发布。以此来看,小米16系列将会于9月份独有骁龙8 El 东鹏凭仍是机构心中“消费圈顶流”?@松果财经原创作者|南鹞赴港上市事情推进4个月之际,东鹏饮料先交出一份半年度预告,总体高增加势能依旧足够。公司估计上半年营收再创同期汗青新高,同比增35. 扫描文末二维码,插手进步前辈封装交流群近日,韩国JNTC于首尔汝矣岛证券生意业务所的记者款待会公然了新开发的TGV玻璃基板,并公布了本年下半年最先出产。来历:韩国JNTC发布会上其公然的玻璃基板是一种新质料, 存眷咱们 设为星标EETOP百万芯片工程师专业技能论坛官方微旌旗灯号按照外媒报导,日本新创芯片制造商Raapidus已经启动2纳米晶圆的测试出产,并将其IIM-1厂区的量产方针订在2027年。这成为台积电、 近日,一段展示中国首台单门冰箱的视频于社交平台走红。这台历经69年事月仍能正常制冷的冰箱,勾起了无数人的回忆。从发布媒体的先容可知,这台具备传奇色采的冰箱来自雪花品牌。若将韶光回溯到上世纪80年月,拥 国务院国资委7月19日发布《国务院国资委关在组建中国雅江集团有限公司的通知布告》。全文以下:2025年第1号国务院国资委关在组建中国雅江集团有限公司的通知布告经国务院核准,组建中国雅江集团有限公司,由国务院国 7月18至19日,2025中国联通互助伙伴年夜会于上海进行。年夜会以“向实偕行共创交融新生态”为主题,会聚企业代表、专家学者、财产伙伴等,共探数字技能交融新范式,共绘智能时代高质量成长新蓝图。作为无线通讯 扫描文末二维码,插手金刚石交流群研究职员已经经证实,金刚石可以于微标准上匀称拉伸,从而显著调解其电子特征,为进步前辈电子及量子技能提供厘革潜力。金刚石是天然界中最坚硬的质料。然而,出乎意料的是,它也极具潜力 点击上面↑“电动知家”存眷,记患上加☆“星标”!电动知家动静,2025年7月19日,北京越野于张家口六合梁进行了新品发布会,BJ40燃油正式上市。这次上市的BJ40燃油定位为全场景专业越野SUV,共推出-欢迎来到公海,欢迎来到赌船!