黄仁勋谈加速计算:将5%代码卸载到加速器上,可提高100倍程序运行速度

花花2024-09-12热点分享221

   9月12日上午消息,在出席高盛Communacopia Tech大会访谈时,NVIDIA创始人兼首席执行官黄仁勋在谈及通用计算与加速计算之间的区别时指出,如果将5%的代码卸载到加速器上,从技术上将能将应用程序的速度提高100倍,而英伟达将图像加速处理的速度提高了500倍。

黄仁勋谈加速计算:将5%代码卸载到加速器上,可提高100倍程序运行速度

  在黄仁勋看来,通常在软件编写的主体中有很多文件IO,需要设置数据结构,软件内部有一部分包含一些神奇的内核和神奇的算法,这些算法因计算机图形学、图像处理或其他任何领域而异,可能是流体、粒子,也可能是图像域类型的东西,所有这些不同的算法都是不同的。“因此,如果你创建了一个处理器,它在某些算法上非常出色,并且你在通用处理器(CPU)擅长的领域与 CPU 互补,那么从理论上讲,你可以大大加快应用程序的速度,因为通常约5%或10%的代码,代表了99.999%的运行时间。”

  黄仁勋以数据处理为例指出,为了加速数据处理,英伟达创建了一个名为cuDNN 的库,这是世界上第一个神经网络计算库,因此英伟达有了cuDNN,有用于组合优化的cuOpt,也有用于量子模拟和仿真的cuQuantum等各种不同的库。这些不同的库,它们采用应用程序中运行的算法,并以英伟达加速器可以运行的方式重构算法,可以将程序的运行速度提高100倍。

相关文章

“退金令”等加速中小银行股权转让 年内已“上架”数千笔

“退金令”等加速中小银行股权转让 年内已“上架”数千笔

  延续近年趋势,今年中小银行股权仍高频“上架”。   21世纪经济报道记者11月28日据阿里拍卖平台公示统计,仅11月就有超过...

美联储“鹰派降息”重挫美股!后市怎么走?一图回顾过去8轮降息周期

美联储“鹰派降息”重挫美股!后市怎么走?一图回顾过去8轮降息周期

  当地时间12月18日,美联储联邦公开市场委员会(下称FOMC)宣布降息25个基点至4.25%~4.50%,符合市场预期,为美联储今年9月以来连续第三次降息。...

全球股市现“春意” 特朗普关税壁垒或将是全球股市走高最大威胁

全球股市现“春意” 特朗普关税壁垒或将是全球股市走高最大威胁

  上周,全球股市“春意”盎然。据不完全统计,在2月10日至2月14日当周,全球多数股市实现正收益。其中,恒生指数大幅上涨7.04%,表现最为突出;德国DAX上...

以色列外长发文坚称:不会撤回宣布古特雷斯为“不受欢迎的人”这一决定

以色列外长发文坚称:不会撤回宣布古特雷斯为“不受欢迎的人”这一决定

据塔斯社等媒体报道,以色列外交部长卡茨当地时间12日在社交媒体X平台上最新发文称,以方不会撤回此前宣布联合国秘书长古特雷斯为“不受欢迎的人”的决定。此前,以色列这一举措已引起国际社会普遍反对和谴...