极致推理性能:大模型推理服务器,采用昇腾8*A1推理模组(Atlas8001A2),提供强劲AI推理能力,适用于33B到-175B之间的大模型推理带宽专为大模型推理设计。
CPU性能和扩展:国产自研64 bits高性能48核鲲鹏920 CPU处理器,内部集成了DDR4、PCIe4.0、25GE、10GE、GE等接口,提供完整的SOC功能。
高速网络带宽:提供白金级电源模块,50%负载下电源模块效率高达94%,支持PID智能调速,节能降耗,全方面优化的系统散热设计,高效节能系统散热风扇,降低系统散热能耗。
高效安全:单板硬件采用电信级器件和加工工艺流程,可显著提高系统可靠性,集成在设备上的iBMC 管理模块可用来监测系统运行状态,并提供远程管理功能,集成了业界标准的统一可扩展固件接口(UEFI),因此能够提高设置、配置和更新效率,并且简化错误处理流程,支持带锁的服务器机箱安全面板,保护设备的本地数据的安全性。
应用场景:部署在数据中心机房,使能中心推理、内容生成、智能问答、搜索NLP、内容审核,互联网推荐,智能客服。
(来源:思腾合力)