每經(jīng)記者｜楊卉    每經(jīng)編輯｜張益銘

今年年初，AI一體機(jī)批量現(xiàn)世，讓企業(yè)尤其是中小型企業(yè)部署AI和大模型的成本從動(dòng)輒百萬元下探到了20萬元左右。幾個(gè)月后，這一成本有望進(jìn)一步下探至數(shù)萬元級(jí)別。5月7日，以“讓AI成為創(chuàng)新生產(chǎn)力”為主題的聯(lián)想創(chuàng)新科技大會(huì)（Tech World）在上海舉辦，《每日經(jīng)濟(jì)新聞》記者現(xiàn)場參會(huì)。

會(huì)上，聯(lián)想集團(tuán)展示了其在端側(cè)算力方面的最新成果——“聯(lián)想推理加速引擎”。《每日經(jīng)濟(jì)新聞》記者在發(fā)布會(huì)現(xiàn)場了解到，這款由聯(lián)想、清華大學(xué)及無問芯穹聯(lián)合研發(fā)的推理引擎是專為高效AI PC推理而設(shè)計(jì)的軟硬件協(xié)同優(yōu)化平臺(tái)，可讓一臺(tái)普通PC（筆記本電腦）的本地推理能力媲美OpenAI去年發(fā)布的o1-mini云端模型。

從實(shí)現(xiàn)邏輯上看，“聯(lián)想推理加速引擎”主要通過高性能并行解碼、算子融合優(yōu)化以及異構(gòu)計(jì)算技術(shù)，需與大模型推理芯片相結(jié)合，從而實(shí)現(xiàn)多種應(yīng)用場景下推理速度的提升，同時(shí)降低功耗和內(nèi)存占用。

聯(lián)想集團(tuán)董事長兼CEO楊元慶在發(fā)布會(huì)現(xiàn)場稱，消費(fèi)者將在即將發(fā)布的下一代AI PC上體驗(yàn)到“聯(lián)想推理加速引擎”。“今天隨著AI需求的爆發(fā)式增長，端側(cè)計(jì)算和推理能力的提升將依然保持指數(shù)級(jí)增長的速度，甚至更快。未來12個(gè)月，端側(cè)AI綜合能力將實(shí)現(xiàn)至少三倍的提升，這也許不是夢想！”楊元慶稱。

《每日經(jīng)濟(jì)新聞》記者還在展臺(tái)現(xiàn)場發(fā)現(xiàn)，聯(lián)想集團(tuán)此次還展示了搭載上述加速引擎的臺(tái)式電腦產(chǎn)品。據(jù)展臺(tái)現(xiàn)場工作人員介紹，該款產(chǎn)品內(nèi)置了1張中階顯卡、1張顯存擴(kuò)容卡以及“聯(lián)想推理加速引擎”，整體造價(jià)約在4萬元左右，可實(shí)現(xiàn)32B大模型的本地訓(xùn)練，預(yù)計(jì)今年下半年上市，有望進(jìn)一步降低金融、教育、法律等領(lǐng)域的企業(yè)用戶尤其是中小企業(yè)用戶私有化部署大模型的成本。

據(jù)上述工作人員介紹，市面上的32B大語言模型傳統(tǒng)訓(xùn)練方案的整體造價(jià)很高，如國內(nèi)某廠商的成本約在200萬元左右，最少需要8張英偉達(dá)顯卡，對(duì)中小企業(yè)來說部署成本過高。在聯(lián)想此次展示的電腦上，通過內(nèi)置的“AI Studio”軟件平臺(tái)，用戶可將自己的數(shù)據(jù)庫及個(gè)性化信息通過自選大模型（32B模型）進(jìn)行訓(xùn)練，模型本地訓(xùn)練成本可下降98%。

封面圖片來源：每日經(jīng)濟(jì)新聞 資料圖