在NVIDIA GTC 2024大会上，老黄宣布推出新一代GPU Blackwell，第一款Blackwell芯片名为GB200，将于今年晚些时候上市。它主要有以下特点： 1，采用台积电的4纳米（4NP）工艺制程，将两块芯片整合到一起，使用10 TB/sec NVLink 5.0连接，共有2080亿个晶体管。作为参考对比，前一代GPU“Hopper”H100采用4nm工艺，集成晶体管800亿； 2，基于Blackwell的处理器（如GB200），为人工智能公司提供了巨大的性能升级，其AI性能为每秒20千万亿次浮点运算。之前的H100性能为每秒4千万亿次浮点运算； 3，该系统可以部署一个27万亿参数的模型，GPT-4使用了约1.76万亿个参数来训练系统； 4，GB200包含了两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成，推理大语言模型性能比H100提升30倍，成本和能耗降至25分之一。
