作者:元界
4月9日,墨芯人工智能科技(深圳)有限公司發生工商變更,10日官宣連續完成A+輪、B輪各數億元人民幣的兩輪融資。
其中,A+輪融資由金浦投資上海金融科技基金領投,華大松禾天使基金、巖山科技戰略跟投,多家財務機構、老股東將門創投繼續跟投。
引人矚目的是,B輪融資由螞蟻集團領投,盛景嘉成跟投,這也是投資大模型創業公司月之暗面等後阿裏系的另一大宗布局,這是阿裏系對中國芯片及相關產業的加碼,匹配其在中國商界的地位與未來潛在地位。
另一條道路:
從偏門到價值被發現
墨芯深圳成立於2018年8月,是一家AI芯片設計商,並在上海、北京、海外設有分支機構。
墨芯二字取自英文名Moffett的諧音,也是公司創業起源地卡內基梅隆大學矽谷校區的地名。墨芯二字也蘊含了「墨子芯片」之意,借此表達對中國古代偉大的科學家墨子的敬意。
墨芯是國內AI賽道的主要玩家,是全球領先、自主研發的雙稀疏算法的發明者,擁有全球專利30余項,在AI算法領域走的是差異化路線。
墨芯打造了軟硬協同的新一代智能計算平臺,實現算力性能、成本的數量級優化,為行業帶來高算力、低功耗、高性價比的AI計算服務,為金融、製造、醫療、交通、能源、生命科學、自動駕駛等行業提供高算力、低功耗、高性價比的AI算力服務。
墨芯推出的Antoum是全球首款高達32倍稀疏率的AI計算芯片,在雲端芯片的三大核心技術點——算力、功耗和能效比上,都做到了突破性的創新。
在流片成功僅4個月後,墨芯順勢推出首款搭載Antoum芯片的S4計算卡。該計算卡被用在浪潮服務器上,流暢運行多個主流AI模型,實測性能是國際大廠主流AI推理卡T4的6倍。
2023年4月,墨芯在全球權威AI測評MLPerf的ResNet-50模型中再度拿下冠軍,一舉擊敗同場競技的英偉達、英特爾和高通等一眾AI巨頭。
雙稀疏算法技術路線,一開始還屬於相對偏門。隨著AI大模型的日益普及,來自算力上的挑戰越來越大,稀疏化計算的價值開始被更多人看見。
相比稠密計算,稀疏計算技術是全球公認的新一代 AI 計算技術——利用 AI 模型本身的稀疏性,以接近大腦計算的方式,運行計算時僅啟動所需的神經元,消減冗余和重復內容,減少運算和數據帶寬的壓力,提升有效性能。
值得註意的是,英偉達的 A100、H100 系列、近期發布的 Blackwell GPU 中也都開始支持低倍率稀疏化。
不過,墨芯的稀疏計算是兩種路線並行——即神經網絡的權重稀疏化 + 激活稀疏化的方法。相比於僅使用一種稀疏化,「墨芯」的雙稀疏可以帶來更大的效率收益。
創業天團:
創始人41歲大牛
墨芯創始人兼CEO是王維,卡內基梅隆大學ECE碩士。
卡內基梅隆大學,1900年創立,培養了13位圖靈獎得主,20位諾貝爾獎得主。國內為人熟知的李開復、陸奇和吳恩達等科技界大拿,均畢業於該校。
王維曾任高通和英特爾核心架構師,是英特爾五代到十代CPU處理器的核心團隊之一,參與開發的芯片累計量產超50億片,並擁有數年矽谷芯片公司創業經驗。
公司首席科學家嚴恩勖,出生於臺灣,是王維在卡內基梅隆大學的校友,神經網絡動態稀疏算法就是出自他之手。
迄今為止,嚴恩勖已在國際頂級人工智能期刊上發表論文40余篇。雖然相隔多級,但嚴恩勖的論文成果成為牽引王維慕名拜訪的緣由。
2018年冬天,王維專程從矽谷飛往卡內基梅隆大學,與正在讀博的校友嚴恩勖暢聊了兩天兩晚。基於對稀疏化計算巨大潛力的共同認知,雙方一拍即合,隨即決定基於稀疏算法開啟AI芯片創業。
墨芯擁有一支高起點的創業天團,聯合創始人兼工程副總裁蘆勇,畢業於浙江大學電子工程專業,曾任SK Hynix芯片設計總監和Marvell資深芯片設計經理,有20年以上SoC芯片設計和團隊管理經驗。
肖誌斌,前阿裏達摩院的核心架構師和研究員,擁有18年DSP、CPU處理器以及硬件加速器學術及產業經驗。
重新定義和設計AI計算機
大模型推理芯片或在今明年內爆發
王維認為,AGI將會帶來一輪革命性的技術變革,這其中的核心部分是AI算力。AI對於算力需求的增長是指數級的,引之而來的成本、功耗、能效等問題,也是指數級的問難題,亟待創新技術來解決。
他說,AI時代,我們需要重新定義和設計AI計算機。僅依靠矽基的摩爾定律,2年翻一倍的線性增長的算力供給遠不能滿足指數級增長的需求問題。
所以要跳出現有計算機體系的架構限製,重新設計創新的AI計算機和計算平臺,將算法、軟件、芯片架構融為一體,垂直整合創新,設計出適合AI模型的新的計算模式,例如稀疏化、低精度、高帶寬等。
今年 2 月,隨著 Sora 的橫空出世,預示著 AGI 時代的加速來臨,市場對算力的需求變得更加多樣化,逐漸催生國內大模型廠商對於算力的全新需求。
墨芯的芯片產品目前聚焦在大模型推理市場。王維預計,大模型推理芯片或將在今明年兩年內爆發。
螞蟻集團投資團隊認為,墨芯團隊的稀疏計算技術具備前瞻性和創新性,有望推動大模型的高性能、低成本落地,為解決算力挑戰提供了一種通用且有效的方法,助力構建綠色、高效的計算基礎設施,為 AGI 時代打造高性價比、可持續的 AI 算力。
金浦投資上海金融科技基金表示,AGI 是新一輪的技術革命,是全球新一輪數字技術競爭的新賽道和製高點,墨芯主打的稀疏化算法將算法、軟件、芯片架構融為一體,不依賴先進製程和高帶寬內存,將助力 AGI 大模型以更普惠的方式實現商業化落地。
盛景嘉成則認為,稀疏化技術使得墨芯的 AI 芯片在處理大規模數據時更加高效,尤其是在生成式 AI 時代下,產品實現了與行業領導者英偉達相媲美的性能,並實現了在 TCO 層面的超越給客戶帶來了真正的降本增效。
资料来源:36氪、创业邦、科创板日报