
科技快讯 —— 2023年3月19日,来自知名科技媒体NeoWin的最新报道揭示,存储解决方案供应商群联电子(Phison)推出了革命性的aiDAPTIV+技术。这项技术旨在通过动态扩展内存缓存,为人工智能(AI)应用解锁新的性能水平。
突破AI内存限制
据NeoWin博文所述,AI与机器学习(ML)的迅猛发展,使得它们在现代硬件性能评估中占据了核心位置。除了处理器的强大算力外,AI任务对内存的需求也日益增长。具体而言,随着AI模型参数和精度的提升,内存需求也随之增加。以单精度浮点数(float32)为例,其内存消耗通常是参数值的四倍。即便配备32GB显存的RTX 5090显卡,也可能在处理80亿参数的模型时遇到瓶颈。
aiDAPTIV+技术的创新
为了应对这一挑战,群联电子的aiDAPTIV+技术应运而生。该技术通过结合动态缓存和基于NAND闪存的“aiDAPTIVCache”缓存技术,有效扩展了可用的HBM(高带宽内存)/ GDDR(专为高带宽应用设计的同步动态随机存取存储器)。
群联与Maingear的合作
在GTC 2025大会上,群联与Maingear公司合作,推出了搭载aiDAPTIV+技术的AI PRO桌面工作站。通过aiDAPTIVLink 3.0新版中间件,该工作站实现了SSD与GPU之间更高效的数据传输,提供了更快的Token时间(TTFT)回调响应,并支持更大的LLM(大型语言模型)提示上下文。
性能对比
以下是aiDAPTIV+技术应用效果的直观展示。在处理超过130亿参数的模型时,群联的aiDAPTIV+轻松超越了未采用该技术的Maingear四路英伟达RTX 6000 Ada配置。

Maingear PRO AI工作站
Maingear公司进一步介绍了其PRO AI工作站的设计理念。该工作站能够动态分割70B训练模型,将当前切片交付给GPU进行快速训练,同时将模型的其余部分存储在DRAM和群联AI100 SSD中。每个NVIDIA RTX 6000 ADA显卡在训练过程中均表现出色,停机时间最小化。
通过上述技术革新,群联电子和Maingear无疑为AI和ML领域的硬件发展注入了新的活力,为追求高性能解决方案的用户提供了新的选择。