清華團隊突破大模型算力瓶頸，4090顯卡可運行DeepSeek-R1滿血版

云財經訊，2025年2月17日，清華大學KVCache.AI團隊聯合趨境科技發布的KTransformers開源項目取得重大突破。該項目成功實現了在單張24GB顯存的RTX 4090顯卡上運行DeepSeek-R1、V3的671B滿血版。預處理速度最高可達286 tokens/s，推理生成速度最高達14 tokens/s。這一創新顯著降低了大模型的運行門檻，使普通用戶也能在本地實現AI大模型的高效運行。A股上市公司中，科德教育(300192)參股的中吳芯英是國內掌握TPU架構訓推一體AI芯片核心技術的公司，致力于打造“自研訓練芯片+超算集群+預訓練大模型”的產業價值鏈。亞康股份(301085)依托自身優勢，積極圍繞下游客戶需求，為其提供AI訓練與推理所需的算力基礎設施全產業鏈服務。