IBM 革新光学技术：AI 训练速度飙升，GPU 闲置时间成历史
光学革新，AI 训练速度提升至新高度
数界探索
12月11日，IBM宣布了一项重大的技术突破，他们开发出一种全新的光学技术，能够在光速下训练AI模型，并且大幅度减少能源消耗。IBM称，若将该技术应用于数据中心，那么在训练一个AI模型时所节约的能源量，相当于5000个美国家庭一年的能源使用量。 这项创新不仅展示了科技行业在提高效率方面的巨大潜力，也凸显了我们对于可持续发展的承诺。随着AI模型变得日益复杂，对计算能力的需求也在急剧增加，这无疑会带来更高的能源需求。因此，IBM的这一发现显得尤为关键，它不仅能够加速AI模型的训练过程，还能够显著降低碳排放，为环保做出贡献。此外，这项技术的应用前景广阔，有望在未来改变数据中心的运营方式，推动整个行业的绿色发展。
该公司表示，尽管数据中心通过光纤电缆与外界相连，但其内部依然采用铜线进行连接。这些铜线将GPU加速器串联起来，在等待来自其他设备的数据时，GPU加速器会有很多闲置的时间，同时它们仍在消耗电力，这增加了运营成本。
IBM高级副总裁兼研究总监Dario Gil表示：“随着生成式AI对更多能源和计算资源的需求增加，数据中心必须进行升级。共封装光学技术（CPO）将使数据中心更加适应未来的发展。借助这一技术突破，未来的芯片将通过光纤电缆等方式直接在数据中心内部进行高效的数据传输，从而开启一个更快速、更环保的通信新时代，满足未来AI工作负载的需求。”
注意到，IBM在一篇技术论文中介绍了其最新的CPO原型。通过大幅提高数据中心的带宽，能够显著减少GPU的空闲时间，进而加快AI处理速度。IBM声称，大型语言模型（LLM）的训练周期可以从三个月缩短至三周。此外，由于能效的提升，能源消耗也会相应减少，这将有助于降低训练LLM的成本。 这种创新无疑为AI领域的发展注入了新的活力。随着计算需求的不断增长，如何更高效地利用现有资源成为了关键问题。IBM的这一解决方案不仅有望大幅提升训练效率，还能在一定程度上缓解能源压力，这对于推动AI技术的广泛应用具有重要意义。同时，这也反映出科技企业在追求性能突破的同时，也在积极寻求可持续发展的路径。