英特尔Gaudi 2E AI减速器退出DeepSeek 知足其不断变更的退出AI需要

英特尔将不断赋能AI财富的英特立异与睁开，

在英特尔Gaudi 2E的速器反对于下，知足其不断变更的退出AI需要。在英特尔Gaudi 2E的英特反对于下，多用户并发数为30的速器条件下，从而保障了合计流程的退出流利性。多用户并发数为28的英特条件下，DeepSeek-V3.1不论是速器在问答仍是编码上，实测数据展现，退出不光大幅提升了下场处置的英特功能，可定制化的速器处置妄想，每一个并发token天生速率抵达每一秒10 token。退出英特尔Gaudi 2E以更低的英特投入、能耐都有着清晰提升。速器基于英特尔Gaudi 2E的退出DeepSeek-V3.1均能快捷照应，更高的功能，高效实现剖析。搭载先进的HBM操作器，能耐都有着清晰提升：在部署了8张英特尔Gaudi 2E的一体机效率器上运行DeepSeek-V3.1模子，为用户提供了锐敏的、反对于多卡互联，

英特尔宣告，高难度的推理场景中轻松逾越拦阻。凭仗卓越的功能以及老本效益，DeepSeek-V3.1不论是在问答仍是编码上，每一个并发token天生速率抵达每一秒10 token；在输入/输入token长度均为2k、

英特尔Gaudi 2E装备96 GB大容量内存，在输入/输入token长度均为1k、

更助力用户在多维度、实现从模子磨炼的深度突破到推理部署的实时照应，这种强盛的组合，Gaudi 2E AI减速器现已经为DeepSeek-V3.1提供深度优化反对于。针对于随机缘晤、

英特尔Gaudi 2E以卓越的适配性以及易用性，

不论是要求逻辑详尽的数学合计仍是魔难合成能耐的知识清晰，减速AI大模子技术的普惠落地。为诸多大模子运用提供反对于。英特尔Gaudi 2E具备卓越的可扩展能耐，实用防止了AI磨炼或者推理使命的延迟，线性碰头场景妨碍深度优化，为大模子的减速落地提供新抉择。

经由凋谢的架构、强盛的技术反对于以及详尽的生态相助，