Rain AI宣布晶心科技成為其RISC-V合作夥伴

Facebook
Twitter
LinkedIn

Rain AI取得授權採用晶心科技AX45MPV,並與晶心客制運算事業部合作,加速推出革命性的記憶體內計算(CIM)生成式人工智慧解決方案

【美國舊金山】— 202481日—高效能低功耗32/64位元RISC-V處理器核心領導供應商暨RISC-V國際協會創始首席會員晶心科技(TWSE: 6533)今日宣布向記憶體內計算(CIM)技術的先驅者Rain AI授權使用晶心RISC-V向量處理器AX45MPV。Rain AI設計了新穎的加速器解決方案,且雙方正在合作並加速推進Rain AI產品開發。

隨著全球經濟大量採用生成式人工智慧為消費者及企業提供前所未有的利益,無論是應用在雲端、邊緣,或特別是在最小的感測器中,能量消耗是一大挑戰。記憶體內計算(CIM)是目前降低能耗最具潛力的解決方案,可將能耗降低多達50倍。透過直接在記憶體單元中執行計算,CIM可以顯著減少機器學習中常見矩陣運算所需的能量。

然而,僅憑CIM本身並無法完全解決大量且不斷增長的機器學習運算需求。RISC-V CPU為基於CIM基礎的NPU提供高效編程且未來看好的理想處理器選擇,且RISC-V架構允許用戶能夠添加客制指令來呼叫CIM計算模塊,從而減輕軟體開發的負擔。晶心科技為此特別提供了COPILOT編譯器來自動化客制化指令的過程。

晶心科技董事長暨執行長林志明表示:「晶心科技非常榮幸且興奮地與Rain AI成為授權及合作夥伴關係。作為世界首家RISC-V向量處理器供應商,我們認為CIM是實現生成式AI應用的必要技術,也因此我們專注於支持CIM客戶。據我們所知,Rain AI採用數位CIM技術設計了最節能的矩陣乘法單元,因此我們期待Rain AI 在未來發布突破性的解決方案。」

Rain AI執行長William Passo對此表示贊同,並說道:「很少能遇到與我們在市場及技術願景上有著共同理解的供應商,晶心不僅提供了最優秀的RISC-V解決方案來滿足我們的技術需求,還願意投入資源幫助我們加速開發產品,並成功降低人工智慧運算所需的能源消耗。將最先進的模型在任何外型尺寸的裝置中運行是人工智慧的未來,與晶心的合作讓我們更向此邁進了一大步。」

事實上,Rain AI進一步與晶心客制運算事業部(CCBU)合作,透過現場及遠距諮詢服務,協助加速整合晶心AX45MPV和ACE/COPILOT客制指令。晶心客制運算事業部(CCBU)是一支由專家組成的小團隊,負責為一些具有領先技術的授權客戶進行複雜的客制及整合工作。

兩家公司可以共同分享AX45MPV和晶心獨特的RISC-V客制指令技術ACE/COPILOT的獨到之處。ACE/COPILOT在補充Rain AI開創性的CIM硬體、編譯器和軟體中發揮了至關重要的作用,提供可擴展的機器學習(ML)解決方案,適用於多種部署形式。Rain AI將在2025年初發表其加速器解決方案。

關於晶心Andes Technology)
晶心科技股份有限公司於2005年成立於新竹科學園區,2017年於臺灣證交所上市(TWSE: 6533 SIN: US03420C2089ISIN: US03420C1099)。晶心是RISC-V國際協會的創始首席會員,也是第一家推出商用RISC-V向量處理器的主流CPU供應商。為滿足當今電子設備的嚴格要求,晶心提供可配置性高的32/64位元高效能CPU核心,包含DSP、FPU、Vector、超純量(Superscalar)、亂序執行(Out-of-Order)、多核心及車用系列,可應用於各式SoC與應用場景。晶心並提供功能齊全的整合開發環境和全面的軟/硬體解決方案,可説明客戶在短時間內創新其SoC設計。截至2023年底,嵌入AndesCore™的SoC累積總出貨量已達140億顆。更多關於晶心的資訊,請參閱晶心官網https://www.andestech.com。追蹤晶心最新消息:LinkedInFacebookXBilibili以及YouTube

關於RAIN AI
Rain AI的使命是透過打造全球最高效能的AI硬體,促進大量且先進人工智慧技術的普及。它利用創新的記憶體內計算(CIM)技術、RISC-V處理器核心、先進的封裝技術和最佳化的機器學習演算法,為生成式AI推理和訓練提供了靈活的解決方案。藉由領先的AI模型共同設計硬體,Rain AI在AI效率及效能方面開創了新的標準。Rain AI的投資者包含Sam Altman、Dan Gross以及Y Combinator。如需瞭解詳情,請參閱http://www.rain.ai