2022 年 1 月 12 日,星期三
KAIST 开发出世界上第一个能够基于图形的 AI 推理的 SSD
新方法防止数据预处理瓶颈
KAIST 开发出世界上第一个能够基于图形的 AI 推理的 SSD
  • 尹英实
  • 2022 年 1 月 11 日 09:52
分享文章

英伟达显卡

韩国科学技术研究院 (KAIST) 于 1 月 10 日宣布,由其电气工程学院的 Jung Myung-su 教授领导的一个研究小组开发了世界上第一个基于整体图的神经网络机器学习技术,用于推理加速靠近能够进行基于图形的 AI 推理的存储和 SSD 加速器。

目前,基于图的神经网络机器学习是使用GPU等通用机器学习加速器进行的。这种方法造成了严重的数据预处理瓶颈和内存不足。然而,通过该团队开发的技术,每个推理过程都在图数据存储附近直接加速,并且可以预防瓶颈。

该团队制作了一个原型计算存储,并将软件框架与开发的硬件电阻晶体管逻辑一起应用到其中。然后,使用 Nvidia GPU 加速系统 (RTX 3090) 进行了测试,该团队证实,与现有的基于 Nvidia GPU 的图形机相比,新技术的速度提高了 7 倍,能耗降低了 33 倍学习加速。

“我们还证实,在更大的图表中,预处理瓶颈进一步减少,最大改进量分别为 201 倍和 453 倍,”教授说,并补充说,“新的机器学习模型能够显示数据相关性和可用于各种领域,包括大规模推荐、流量预测和新药开发。”该研究的详细信息定于下个月在 USENIX FAST 2022 上公布。