清華團(tuán)隊(duì)突破大模型算力瓶頸，4090顯卡可運(yùn)行DeepSeek-R1滿血版
2025-02-17 08:57
來源: 云財(cái)經(jīng)
影響力評估指數(shù)：15.55
相關(guān)股票：
云財(cái)經(jīng)訊，2025年2月17日，清華大學(xué)KVCache.AI團(tuán)隊(duì)聯(lián)合趨境科技發(fā)布的KTransformers開源項(xiàng)目取得重大突破。該項(xiàng)目成功實(shí)現(xiàn)了在單張24GB顯存的RTX 4090顯卡上運(yùn)行DeepSeek-R1、V3的671B滿血版。預(yù)處理速度最高可達(dá)286 tokens/s，推理生成速度最高達(dá)14 tokens/s。這一創(chuàng)新顯著降低了大模型的運(yùn)行門檻，使普通用戶也能在本地實(shí)現(xiàn)AI大模型的高效運(yùn)行。A股上市公司中，科德教育(300192)參股的中吳芯英是國內(nèi)掌握TPU架構(gòu)訓(xùn)推一體AI芯片核心技術(shù)的公司，致力于打造“自研訓(xùn)練芯片+超算集群+預(yù)訓(xùn)練大模型”的產(chǎn)業(yè)價(jià)值鏈。亞康股份(301085)依托自身優(yōu)勢，積極圍繞下游客戶需求，為其提供AI訓(xùn)練與推理所需的算力基礎(chǔ)設(shè)施全產(chǎn)業(yè)鏈服務(wù)。
云財(cái)經(jīng)智能匹配相關(guān)概念
| 新聞標(biāo)題 | 時(shí)間 | 消息來源 | 新聞熱度 |
|---|---|---|---|
| 立中集團(tuán)：墨西哥項(xiàng)目二期已初步投產(chǎn) 力爭盡快滿產(chǎn)滿銷 | 10-25 16:54 | 云財(cái)經(jīng) |
|
| 白云機(jī)場T3首批進(jìn)駐航司 | 10-25 11:18 | 云財(cái)經(jīng) |
|
| 五糧液發(fā)布通知：酒廠將控制發(fā)貨，經(jīng)銷商需正常回款 | 10-24 12:54 | 云財(cái)經(jīng) |
|
| 抖音電商專項(xiàng)治理玉石翡翠虛假宣傳，日均攔截違規(guī)商品5萬件 | 10-23 18:13 | 云財(cái)經(jīng) |
|
| 通過“時(shí)間反演”探測量子動態(tài) 科學(xué)家區(qū)分出真實(shí)量子效應(yīng)和經(jīng)典噪聲 | 10-23 07:58 | 云財(cái)經(jīng) |
|
| 三翼鳥定制平臺協(xié)同品牌、用戶、設(shè)計(jì)師，開啟智慧家“共創(chuàng)”時(shí)代 | 10-21 14:31 | 商業(yè)新聞 |
|