在GTC2024大会上，台积电董事长老黄祭出了世界最强GPU——Blackwell B200，这款GPU整整封装了超过2080亿个晶体管。相比上一代H100（800亿），B200的晶体管数量是其2倍多，训AI性能直接飙升5倍，运行速度提升30倍。这一惊人的突破引发了业界的广泛关注。
台积电董事长在会上预测，未来15年每瓦GPU性能将提升1000倍，而GPU晶体管数将突破万亿。这一预测引发了人们对未来AI发展的无限遐想。IEEE刊登了台积电董事长和首席科学家的文章，探讨了半导体技术突破对AI技术的贡献。
从1997年战胜国际象棋人类冠军的「深蓝」，到2023年爆火的ChatGPT，AI已经从实验室中的研究项目，被塞入每个人的手机。这一切都要归功于ML算法创新、海量数据和半导体工艺的进步。半导体技术的不断演进，推动了AI的飞速发展。
台积电预测，在未来10年，GPU集成的晶体管数将达到1万亿，同时，未来15年，每瓦GPU性能将提高1000倍。半导体工艺的不断进步，为AI的性能提升提供了坚实基础。从软件和算法到架构、电路设计乃至器件技术，每一层系统都在极大地提升AI的性能。
随着AI应用的不断发展，对计算能力和内存访问的需求也在迅速增加。半导体技术如何跟上这种发展的速度成为了一个迫在眉睫的问题。从集成芯片到集成芯片组，半导体行业一直在不断探索创新，以满足AI应用对算力的需求。
未来，3D SoIC技术将提供一种新的解决方案，通过混合键合技术将多层芯片堆叠起来，实现更密集的垂直连接。这种技术将为AI领域带来更高效的解决方案，提高带宽的能源和面积效率。
台积电预计，在未来十年内，采用多芯片封装技术的单个GPU将拥有超1万亿晶体管，通过3D堆叠技术连接起来。半导体行业已经能够大幅度缩小垂直连接的间距，增加了连接密度，未来在提高连接密度方面还有巨大的潜力。
通过观察服务器GPU的发展，可以看到能效性能（EEP）正稳步提升。半导体行业已经实现了每两年将EEP提高约3倍的壮举，这种增长趋势将会延续，得益于众多方面的创新。
在人工智能的大潮中，半导体技术成为了推动AI和应用发展的关键力量。新一代GPU已经打破了传统的尺寸和形状限制，半导体技术的发展也不再局限于仅在二维平面上缩小晶体管。未来的半导体技术开发将面临更多挑战，但同时也有更加广阔的可能性。随着技术的不断进步，我们将迎接更加美好的未来。