36 氪獲悉，AI 基礎(chǔ)設(shè)施廠(chǎng)商「基流科技」已于近期完成近億元 A+ 輪融資，由上海國(guó)投孚騰資本、國(guó)方創(chuàng)新聯(lián)合領(lǐng)投，克拉瑪依城發(fā)基金、張江燧芯基金跟投，老股東卓源亞洲連續(xù)四輪追加投資。本輪募集資金將主要用于核心技術(shù)研發(fā)、市場(chǎng)拓展和團(tuán)隊(duì)建設(shè)。

基流科技成立于 2023 年 2 月，源自清華大學(xué)網(wǎng)絡(luò)安全實(shí)驗(yàn)室。創(chuàng)始人胡效赫是清華大學(xué)博士、博士后，在高性能網(wǎng)絡(luò)和分布式系統(tǒng)領(lǐng)域有十余年研究經(jīng)驗(yàn)。核心團(tuán)隊(duì)成員來(lái)自清華、北大等頂尖高校及阿里、百度、中興等頭部廠(chǎng)商。

基流科技定位為全棧自主的 AI 算力建筑商，團(tuán)隊(duì)專(zhuān)注于攻克大規(guī)模算力集群的分布式計(jì)算通信難題。作為國(guó)內(nèi)極少擁有數(shù)個(gè)萬(wàn)卡集群落地經(jīng)驗(yàn)的 AI 基礎(chǔ)設(shè)施廠(chǎng)商，公司已服務(wù)包括智譜 AI、商湯科技、運(yùn)營(yíng)商、數(shù)據(jù)中心及地方國(guó)企在內(nèi)的多個(gè)用戶(hù)。

" 不同于專(zhuān)注算力平臺(tái)運(yùn)營(yíng)的‘房地產(chǎn)開(kāi)發(fā)商’和專(zhuān)注系統(tǒng)優(yōu)化的‘裝修商’，我們聚焦搭建覆蓋計(jì)算通信軟硬件的高性能開(kāi)源自主智算系統(tǒng)，類(lèi)似‘蓋房子’。" 基流科技聯(lián)合創(chuàng)始人兼 CFO 謝文奇向 36 氪介紹。

隨著大模型和 AIGC 應(yīng)用的爆發(fā)，算力已成為繼水、電、網(wǎng)之后的新型基礎(chǔ)設(shè)施，緊隨之而來(lái)的是網(wǎng)絡(luò)通信瓶頸、高故障率和供應(yīng)商軟硬綁定帶來(lái)的高昂成本。英偉達(dá)憑借其 CUDA 生態(tài)，不僅銷(xiāo)售 GPU，還捆綁其專(zhuān)用的網(wǎng)絡(luò)設(shè)備，形成了封閉且昂貴的解決方案。

" 我們的核心優(yōu)勢(shì)在于性?xún)r(jià)比與開(kāi)放性，其本質(zhì)在于實(shí)現(xiàn)‘解耦’ "，基流科技創(chuàng)始人胡效赫曾指出。通過(guò)基流科技自研的 RoCE 組網(wǎng)方案，客戶(hù)的成本可降低 40%，交付周期也從數(shù)月縮短至數(shù)周。在 2023 年下半年，基流科技就成功落地了國(guó)內(nèi)最早的第三方千卡 H800 RoCE 集群，有力支撐了國(guó)產(chǎn)大模型公司的基座模型迭代。

目前，基流科技打造了自研的高性能開(kāi)源智算系統(tǒng) Galaxy HPAC（High-Performance AI Computing）。該系統(tǒng)主要包括三大核心產(chǎn)品：高性能融合 AI 網(wǎng)絡(luò) ( Mercury-X ) 、人工智能平臺(tái) ( Venus-AICloud ) 和算力建維平臺(tái) ( Venus-AIDOC ) 。另外，公司自研的 MS6426 全國(guó)芯 25.6T 高速開(kāi)源 AI 交換機(jī)，已通過(guò)智算集群 72 小時(shí)長(zhǎng)穩(wěn)測(cè)試，實(shí)現(xiàn)規(guī)模部署。

謝文奇介紹，經(jīng)過(guò)兩年多時(shí)間的發(fā)展，公司累計(jì)組網(wǎng)調(diào)優(yōu)交付的集群規(guī)模已達(dá) 23 個(gè)，超 6 萬(wàn) 6 千張 GPU、4000 余臺(tái)交換機(jī)，和超 32 萬(wàn)個(gè)光模塊，同時(shí)已成功落地多個(gè)跨遠(yuǎn)距離訓(xùn)推集群（ 50 公里、100 公里、1500 公里）。

對(duì)于算力是否過(guò)剩的疑問(wèn)，謝文奇告訴 36 氪，算力不只是為了預(yù)訓(xùn)練存在，目前不管?chē)?guó)內(nèi)還是國(guó)外的大模型公司仍在進(jìn)行預(yù)訓(xùn)練，同時(shí)推理和后訓(xùn)練的算力需求正快速增長(zhǎng)。但從需求占比看，他提到，2023 年訓(xùn)練與推理的算力需求比大概是 7:3，2024 年是 5:5，到 2025 年可能會(huì)達(dá)到 3:7。在立足北京、上海等核心區(qū)域同時(shí)，基流科技也積極響應(yīng)國(guó)家戰(zhàn)略，在新疆、寧夏等地參與算力項(xiàng)目落地。

目前，基流科技已投入十萬(wàn)卡集群的仿真和未來(lái)架構(gòu)設(shè)計(jì)。胡效赫坦言，雖然國(guó)內(nèi)對(duì)如何構(gòu)建和使用十萬(wàn)卡集群仍在探索階段，但技術(shù)必須先行。公司正與更多行業(yè)伙伴合作，推動(dòng)硬件國(guó)產(chǎn)化替代和 AI 基礎(chǔ)設(shè)施生態(tài)開(kāi)放與成熟。