全新光电共封装工艺问世：AI训练速度将瞬间飙升5倍
革命性创新！AI训练速度即将飙升5倍，科技又一次进化飞跃
数界探索
12月12日消息，据最新报道，IBM在光学技术领域取得了重要突破，这可能大幅提高数据中心处理和运行生成式AI模型的效率。 这一进展不仅展示了IBM在技术创新方面的持续努力，而且也预示着未来AI计算能力将得到显著增强。随着数据中心能耗和成本问题日益凸显，IBM的这项新技术为解决这些问题提供了新的可能性。此外，这也意味着生成式AI模型的开发和部署可能会变得更加高效和经济，从而推动更多创新应用的诞生。
IBM推出了一种新的光电共封装（CPO）技术。该技术采用光学连接方式，实现了数据中心内部的光速数据传输，进一步完善了现有的短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、电路板和服务器之间的高带宽数据传输。最大限度地减少GPU停机时间，同时大幅加快AI工作速度。
具体而言，这一新技术带来了三大方面的显著优势：
首先，它极大地降低了规模化应用生成式AI的成本。与中距离电气互连装置相比，光电共封装技术的能耗降低了五倍以上，同时，数据中心互连电缆的长度也从传统的1米扩展至数百米，进一步提升了数据中心的灵活性和扩展性。
其次，该技术显著提升了AI模型的训练效率。相较于传统方法，采用光电共封装技术训练大型语言模型的速度几乎快了五倍。 这种技术革新无疑为人工智能领域带来了革命性的变化。光电共封装技术不仅大幅缩短了训练时间，还可能降低能耗，这对于推动AI技术在更多领域的应用具有重要意义。随着技术的进一步成熟和普及，我们有理由期待未来会有更多的创新成果涌现出来，从而加速整个行业的发展步伐。
这意味着，原先需要三个月时间才能完成训练的标准大语言模型，如今仅需三周就能搞定。对于规模更大、配备更多GPU的情况，其性能提升将更加明显。
最后，光电共封装技术显著提高了数据中心的能效。据估算，每训练一个AI模型可以节省的电量相当于5000个美国家庭一年的总耗电量。这一数据充分展示了该技术在节能减排方面的巨大潜力。