3DMark 開(kāi)發(fā)方 UL Solution 當(dāng)?shù)貢r(shí)間 9 日宣布推出 Procyon AI 文本生成基準(zhǔn)測(cè)試,通過(guò)使用多種不同參數(shù)規(guī)模的大語(yǔ)言 AI 模型綜合判斷 AI 加速器硬件的文本生成能力。
Procyon AI 文本生成基準(zhǔn)測(cè)試目前支持通過(guò) DirectML 通用 API 調(diào)用本地的英偉達(dá)、AMD、英特爾 GPU,也可通過(guò)英特爾的 OpenVINO 調(diào)用其自家 GPU(IT之家注:獨(dú)立和集成顯卡均支持,但對(duì)顯存 / 內(nèi)存容量要求存在差異)。
該基準(zhǔn)測(cè)試現(xiàn)包括 4 種參數(shù)規(guī)模不一的模型(Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B),可對(duì) AI GPU 在多樣化大語(yǔ)言模型文本生成用例中的表現(xiàn)進(jìn)行相對(duì)公允的比較。
▲ 成績(jī)頁(yè)面
UL Solution 表示 Procyon AI 文本生成基準(zhǔn)測(cè)試在操作上更為簡(jiǎn)易輕松,與直接使用完整 AI 模型測(cè)試相比又減小了安裝體積,能詳細(xì)展示運(yùn)行文本生成負(fù)載時(shí)系統(tǒng)資源的使用情況。