面向GB300服务器的NVIDIA Blackwell Ultra"B300"AI GPU可能采用插槽式设计

NVIDIA的BlackwellUltraB300GPU可能会在GB300服务器上采用插座式设计，这将使维护和升级变得更加容易。NVIDIA目前的数据中心高性能芯片采用了OAM设计，即板载解决方案。通过这种设计，GPU芯片被永久焊接到服务器主板上，如GB200，用户可以在一块主板上同时找到GraceCPU和BlackwellGPU。

不过，这可能是最后一个采用板载设计的系列，因为一些报道称NVIDIA可能会在用于GB300服务器的BlackwellB300"Ultra"GPU上采用不同的设计。根据MoneyDJ 和EconomicDailyNews（通过Trendforce）的说法，B300GPU可能采用基于插座的设计，这将允许用户从主板上安装或卸载GPU。

据悉，英伟达的BlackwellUltra"B300"AIGPU采用插座式设计可简化英伟达的制造流程，并使多家公司受益，尤其是生产互连组件和插座的富士康。目前的BlackwellGPU是直接焊接到主板上的，过渡到插座式设计后，B300GPU可以像CPU一样从主板上拆卸下来。

这种过渡将带来多种好处，包括提高良品率和实现灵活生产，因为GPU无需焊接到插座上，NVIDIA也无需依赖表面贴装技术。此外，由于在出现与GPU相关的问题时无需更换整个主板，因此该流程将简化维护和售后服务。

因此，升级可以减少更换GPU时的整体停机时间，有助于公司为客户提供更可靠的服务器。不过，预计新的插座设计会带来一些性能下降，因为这会带来更高的延迟。尽管如此，如果能改善维护、升级和提高产量，那么这种权衡还是值得的。

B300的另一个重要变化是采用了FP4，这有利于推理过程。推理是经过训练的模型对数据进行预测的方式，是人工智能计算的一个重要方面。B200已经在人工智能工作负载中表现出色，并已被多家公司部署。

与此同时，B300"BlackwellUltra"有望大幅提升性能，但它却并不是首款采用基于插槽设计的产品，因为AMD已经在2023年推出的MI300A芯片中引入了这种设计。