清華團隊突破大模型算力瓶頸，4090顯卡可運行DeepSeek-R1滿血版
2025-02-17 08:57
來源: 云財經(jīng)
影響力評估指數(shù)：15.55
相關(guān)股票：
云財經(jīng)訊，2025年2月17日，清華大學(xué)KVCache.AI團隊聯(lián)合趨境科技發(fā)布的KTransformers開源項目取得重大突破。該項目成功實現(xiàn)了在單張24GB顯存的RTX 4090顯卡上運行DeepSeek-R1、V3的671B滿血版。預(yù)處理速度最高可達286 tokens/s，推理生成速度最高達14 tokens/s。這一創(chuàng)新顯著降低了大模型的運行門檻，使普通用戶也能在本地實現(xiàn)AI大模型的高效運行。A股上市公司中，科德教育(300192)參股的中吳芯英是國內(nèi)掌握TPU架構(gòu)訓(xùn)推一體AI芯片核心技術(shù)的公司，致力于打造“自研訓(xùn)練芯片+超算集群+預(yù)訓(xùn)練大模型”的產(chǎn)業(yè)價值鏈。亞康股份(301085)依托自身優(yōu)勢，積極圍繞下游客戶需求，為其提供AI訓(xùn)練與推理所需的算力基礎(chǔ)設(shè)施全產(chǎn)業(yè)鏈服務(wù)。
云財經(jīng)智能匹配相關(guān)概念
| 新聞標題 | 時間 | 消息來源 | 新聞熱度 |
|---|---|---|---|
| Netflix宣布2028年前投資10億美元在墨西哥制作電影 | 今天 00:25 | 云財經(jīng) |
|
| 汽車之家：2024年凈利潤為16.2億元 比上年下降13.85% | 02-20 17:44 | 云財經(jīng) |
|
| 海信激光電視連續(xù)六年穩(wěn)居全球第一 | 02-20 11:27 | 商業(yè)新聞 |
|
| 創(chuàng)業(yè)板指跌逾1% 下跌個股近2600只 | 02-20 11:20 | 云財經(jīng) |
|
| 暴雪總裁來訪中國并與網(wǎng)易方會面 | 02-18 15:07 | 云財經(jīng) |
|
| NIPPON EXPRESS HOLDINGS完成對德國SH HoldCo收購 實現(xiàn)全資控股 | 02-18 13:36 | 商業(yè)新聞 |
|
