目前 NLP 中的 SOTA Transformer 类模型的算力需求,以每两年750倍的速率增长,模型参数数量则以每两年240...
iSCSI是由IBM发明的基于以太网的存储协议,该协议与SUN的NFS协议都是为了解决存储资源共享问题的解决方案。两者意图一致,...
在开始了解高速接口的时候,必然会涉及到SerDes。serdes的知识点实际上非常多,并且很多文章论述的侧重点不一样,有的测重整...
这篇文章我们来谈一下通用的SERDES架构。无论是X家的Transceiver还是A家的SERDES,或者其他什么家的某某吉比特...
前言话说,很久以前,并行总线称霸电子行业的方方面面,无论是芯片之间的通信还是板间通信。 就连大名鼎鼎的PCI Express总...
前言高速信号设计涉及到方方面面的知识积累,也许你认为即使没有掌握甚至没有听过一些高速设计的专业术语,也没有关系?因为专业集成的I...
PFCPFC 是构建无损以太网的必选手段之一, 能够逐跳提供基于优先级的流量控制。 设备在进行报文转发时,根据报文的优先级进入对...
本文分析了Infiniband和RoCEv2中的队头阻塞/头阻问题,两种协议头阻问题的根本原因都在于暂停机制(信用或者PFC)是...
QCNQCN(Quantized Congestion Notification,量化拥塞通知)是一套应用于二层的端到端拥塞通知...
现在的模型以及其参数愈加复杂,仅仅一两张的卡已经无法满足现如今训练规模的要求,分布式训练应运而生。分布式训练是怎样的?为什么...