Aug 20, 2023 · 这也使得nvidia a100/h100系列、amd mi200/300系列ai芯片无法对华出口。 随后NVIDIA为了在遵守美国限制规则的前提下，同时满足中国客户的需求，在 11月8日 宣布将推出符合美国新规的A100的替代产品A800，并且将会在今年三季度投产。

说好 v100、a100、a800、h100、h800 这些 gpu 来做对比的，怎么没见 a800 和 h800 呢？从型号上看，莫非它们的性能是 a100、h800 的好几倍？ 事实不然。虽然从数字上来看，800 比 100 数字要大，其实是为了合规对 a100 和 h100 的某些参数做了调整。

英伟达的a100和h100芯片是专门为ai应用而设计的，具有高性能和并行处理能力，因此受到了广泛的欢迎。 然而，由于这些芯片的制造和供应受到一些因素的影响，如全球芯片短缺等，导致这些芯片的供应相对紧张，出现了供不应求的情况。

多卡情况下 a100 的优势会进一步拉大，a100 多卡能做到近线性，为啥 a100 扩展性这么好，这里先不展开讨论。 可以得出明确的结论是： 3090 的 4 卡分布式训练效果绝对要优于单张 a100。这也就是为什么我开头说 4 卡 3090 的性价比足以吊打单卡 a100。

有视频编解码需求的朋友要注意，A100貌似把NVenc给砍了。 老黄的理解可能是这是一张纯计算卡，不需要硬件编解码器。 但实际情况是AI工作者尤其是做CV的很有可能要用到 ffmpeg 。 一张几十万的卡，砍这功能，老黄啊老黄，你是真JS啊。

A100 1,555GB/s, 19.5 TFLOPS, 那就是 50 flops per load，跟65 flops/load 相比要接近很多。 也就是说这样的配比是更适合矩阵乘法的。 另外就炼丹方面来说，很明显就是GPU memory size越大，batchsize就越高，那训练的效果一般来说就越好。

nvidia a100&h100从去年~今年上半年就已被某国列入禁售清单了，所以目前国内市面上应该没有这两个型号的gpu，即使有应该也就是之前囤积的一些卡，量不会太多. 然而随着禁售及chatgpt的火爆，1卡难求也成为了客观的事实，且价格一涨再涨.

openai 买了1万块 A100，. 马斯克这个月上旬也刚刚买了一万块 H100。 H800是H100的同款缩水版， H100、A100是 贸易禁运清单 里面的，H100是A100的6倍性能；H800是H100的半速版，不在贸易禁运清单里面；A800是A100的缩水版，不在贸易禁运清单里面。

两者定位不同，Tesla系列的A100和GeForce 系列的RTX3090，现在是4090，后者定位消费级，前者定位数据中心； 主要还有2方面不同： 1、显存 ： A100有40G 和80G 显存两个版本，对于很多需要大显存场景有绝对优势，大显存在量级处理速度上也会有巨大差距 ；

而恰恰因为如此，3090没法取代a100，因为许多科学计算的场景，如有限元的 稀疏矩阵求解器 ，还有复杂表面流场的计算等，单精度是不可取的，这时候即便你自己去编 cuda程序 搞一个支持3090的求解器，也很可能算出个错误的结果。更何况市面上的工业软件不 ...