每日經(jīng)濟新聞 2025-02-25 11:05:44
每經(jīng)編輯 程鵬
2月25日，DeepSeek官宣，今日開源代碼庫為DeepEP，它是首個用于 MoE 模型訓練和推理的開源EP通信庫。
特點有：高效的全員溝通；節(jié)點內和節(jié)點間均支持 NVLink和RDMA；用于訓練和推理預填充的高吞吐量內核；用于推理解碼的低延遲內核；原生 FP8 調度支持；靈活的GPU資源控制，實現(xiàn)計算-通信重疊。
編輯|程鵬 蓋源源
校對|段煉
封面圖片來源：視覺中國（資料圖 圖文無關）
來源：每日經(jīng)濟新聞app
如需轉載請與《每日經(jīng)濟新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟新聞》報社授權，嚴禁轉載或鏡像，違者必究。
讀者熱線：4008890008
特別提醒：如果我們使用了您的圖片，請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站，可聯(lián)系我們要求撤下您的作品。
歡迎關注每日經(jīng)濟新聞APP
