DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开
DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开

GTC 2024看点:用SSD扩展GPU内存,群联电子官宣 aiDAPTIV+ 战略合作伙伴

3月18日,在英伟达举办的GTC 2024大会 上,群联电子宣布与技嘉 (GIGABYTE)、华硕 (ASUS)、MAINGEAR、台湾大哥大 (Taiwan Mobile) 及联发科技 (MediaTek) 建立 aiDAPTIV+技术合作伙伴关系,它和合作伙伴还展示了aiDAPTIV+技术方案——一种整合软硬件的AI模型微调训练解决方案,让企业进行AI模型微调运算的过程中保证数据的安全性与不外流。

AI模型的预训练可提供AI对语言或图形等的通用理解,但群联的「aiDAPTIV+」可赋能AI模型微调运算,将预训练的AI模型塑造成能理解特定领域的专业工具 (例如符合律师、会计师、医师、工程师等特殊领域的AI助理),以提供符合各种专业领域所需的精确服务。

通用型工作站硬件透过 「aiDAPTIV+」软件中间件和群联独家专利设计的aiDAPTIVCache系列ai100 SSD,将可让现行的工作站计算机或是AI服务器训练更大的AI模型。

这里,MAINGEAR 创始人兼执行长 Wallace Santos 称MAINGEAR 的 Pro AI 系列工作站采用群联「aiDAPTIV+」技术,让使用者能够在不大幅增加成本的情况下,拥有大型AI语言模型微调训练能力。技嘉科技执行长李宜泰指出,aiDAPTIV+协助技嘉透过整合 SSD 至 AI 运算架构,将 SSD 当作 DRAM 来使用,大幅降低 AI 模型微调运算的成本。

什么叫做 把SSD 当作 DRAM 来使用?

在AI模型训练等高性能计算任务中,经常需要处理的数据量远超过GPU内存的容量,需要频繁地在GPU内存和主存储(如SSD)之间交换数据,影响计算效率。群联的解决方案是在GPU内存和SSD之间创造了一个“缓存层”,这个缓存层能部分承担原本由GPU内存要做的任务,从而在不显著增加成本的情况下,间接扩大GPU的“工作内存”,使其能够处理更大的数据集,提高AI训练的效率和规模。

群联电子「aiDAPTIV+」还和联发科技最新的人工智能平台「MediaTek DaVinci」合作,使企业从训练阶段到实际运作大型AI模型的过程,都能维持对本地敏感信息的控制能力。

在 GTC 上,群联电子还将展示全系列的 PCIe Gen5 生态系统产品,包括 X200 SSD、PS7100 系列 Redrivers 和 PS7200 系列 Retimers。

PCIe Gen5 SSD X200: 最高效能超过 14GB/s,在 U.2/U.3 和 E3.S 外形尺寸中,最高储存容量达 32TB,能满足数据中心和服务器的高效能与高容量需求。

PS7100 系列 Redrivers:采用 PHiTUNE AI 技术的 Redrivers,信号调节能力高达 20dB,可最大化主板布线,支持更长的走线长度。

PS7200 系列 Retimers:适用于企业和汽车应用的高阶 Retimers,支持 CXL 2.0 和link分叉 (link bifurcation),可在较长的讯号在线进行 PCIe Gen5 信号调节。

未经允许不得转载:DOIT » GTC 2024看点:用SSD扩展GPU内存,群联电子官宣 aiDAPTIV+ 战略合作伙伴