Rain AI取得采用Andes 晶心科技AX45MPV的授权,并与Andes 晶心客制运算事业部合作,加速推出革命性的存内计算(CIM)生成式人工智能解决方案
【美国旧金山】— 2024年8月1日—高效能低功耗32/64位RISC-V处理器核心领导供货商暨RISC-V国际协会创始首席会员Andes 晶心科技(TWSE: 6533)今日宣布向存内计算(CIM)技术的先驱者Rain AI授权使用Andes 晶心RISC-V向量处理器AX45MPV。Rain AI设计了新颖的加速器解决方案,且双方正在合作并加速推进Rain AI产品开发。
随着全球经济大量采用生成式人工智能为消费者及企业提供前所未有的利益,无论是应用在云端、边缘,或特别是在最小的传感器中,能量消耗是一大挑战。存内计算(CIM)是目前降低能耗最具潜力的解决方案,可将能耗降低多达50倍。透通过直接在内存单元中执行计算,CIM可以显著减少机器学习中常见矩阵运算所需的能量。
然而,仅凭CIM本身无法完全解决大量且不断增长的机器学习运算需求。RISC-V CPU为基于CIM基础的NPU提供高效编程且未来看好的理想处理器选择,RISC-V架构允许用户能够添加客制指令来呼叫CIM计算模块,从而减轻软件开发的负担。Andes 晶心科技为此特别提供了COPILOT编译程序来自动客制化指令。
Andes 晶心科技董事长暨执行长林志明表示:「Andes 晶心科技非常荣幸且兴奋地与Rain AI成为授权及合作伙伴关系。作为首家RISC-V向量处理器供货商,我们认为CIM是实现生成式AI应用的必要技术,因此,我们专注于支持CIM客户。据我们所知,Rain AI采用数字CIM技术设计了最节能的矩阵乘法单元,因此我们期待Rain AI 在未来发布突破性的解决方案。」
Rain AI执行长William Passo对此表示赞同,并说道:「很少能遇到与我们在市场及技术愿景上有着共同理解的供货商,Andes 晶心不仅提供了最优秀的RISC-V解决方案来满足我们的技术需求,还愿意投入资源帮助我们加速开发产品,并成功降低人工智能运算所需的能源消耗。将最先进的模型在任何外型尺寸的设备中运行是人工智能的未来,与Andes 晶心的合作让我们更向此迈进了一大步。」
事实上,Rain AI进一步与Andes 晶心客制运算事业部(CCBU)合作,通过现场及远程咨询服务,协助加速集成Andes 晶心AX45MPV和ACE/COPILOT客制指令。Andes 晶心客制运算事业部(CCBU)是一支由专家组成的小团队,负责为一些具有领先技术的授权客户进行复杂的客制及集成工作。
两家公司可以共同分享AX45MPV和Andes 晶心独特的RISC-V客制指令技术ACE/COPILOT的独到之处。ACE/COPILOT在补充Rain AI开创性的CIM硬件、编译程序和软件中发挥了至关重要的作用,提供可扩展的机器学习(ML)解决方案,适用于多种部署形式。Rain AI将在2025年初,发表其加速器解决方案。
关于Andes 晶心(Andes Technology)
Andes晶心科技股份有限公司于2005年成立于新竹科学园区,2017年于台湾证交所上市 (TWSE: 6533; SIN: US03420C2089; ISIN: US03420C1099)。Andes晶心是RISC-V国际协会的创始首席会员,也是第一家推出商用RISC-V向量处理器的主流CPU供货商。为满足当今电子设备的严格要求,Andes晶心提供可配置性高的32/64位高效能CPU核,包含DSP、FPU、Vector、超纯量 (Superscalar)、乱序执行 (Out-of-Order)、多核心及车用系列,可应用于各式SoC与应用场景。Andes晶心提供功能齐全的整合开发环境和全面的软/硬件解决方案,可帮助客户在短时间内创新其SoC设计。截至2023年底,Andes-Embedded™ SoC累计出货量已超过140亿颗。 更多关于Andes晶心的信息,请参阅晶心官网https://www.andestech.com 。订阅Andes晶心微信公众号AndesTech及Bilibili获得最新消息!
关于RAIN AI
Rain AI的使命是通过打造全球最高效能的AI硬件,促进大量且先进人工智能技术的普及。它利用创新的存内计算(CIM)技术、RISC-V处理器核、先进的封装技术和优化的机器学习算法,为生成式AI推理和训练提供了灵活的解决方案。藉由领先的AI模型共同设计硬件,Rain AI在AI效率及效能方面开创了新的标准。Rain AI的投资者包含Sam Altman、Dan Gross以及Y Combinator。如需了解详情,请参阅http://www.rain.ai。