UL Solutions发布AI文本生成基准测试,英伟达AMD英特尔显卡均支持

   时间:2024-12-11 15:32 来源:ITBEAR作者:顾青青

近日,知名基准测试工具3DMark的开发者UL Solution对外宣布了一项重要进展:他们正式推出了名为Procyon AI的文本生成基准测试。这一测试旨在全面评估AI加速器硬件在文本生成任务中的性能,通过运用多种不同参数规模的大语言AI模型,实现更为精准的评估。

据悉,Procyon AI文本生成基准测试支持通过DirectML通用API调用本地的英伟达、AMD以及英特尔的GPU。同时,它也支持通过英特尔的OpenVINO平台调用英特尔自家的GPU,无论是独立显卡还是集成显卡,均可得到支持,不过对于显存或内存容量的需求存在差异。

在测试内容方面,Procyon AI基准测试涵盖了四种不同规模的AI模型,包括Phi-3.5-mini、Mistral-7B、Llama-3.1-8B和Llama-2-13B。这些模型在参数数量上有所不同,能够充分展现AI GPU在多样化大语言模型文本生成场景中的实际表现,从而为用户提供更为公正和全面的比较。

在完成测试后,用户可以看到详细的成绩页面,其中包含了AI加速器在各项测试中的具体表现。这不仅有助于用户了解硬件的性能水平,还能为他们提供关于系统资源使用情况的宝贵信息。

UL Solution强调,Procyon AI文本生成基准测试在操作上更加简便,与直接使用完整AI模型进行测试相比,其安装体积更小,同时能够为用户提供更为详尽的系统资源使用情况展示。这使得它成为了一款既实用又高效的测试工具,能够满足用户在评估AI加速器硬件性能方面的需求。

 
 
更多>同类内容
推荐图文
推荐内容
点击排行
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群