黄仁勋谈加速计算:将5%代码卸载到加速器上,可提高100倍程序运行速度

花花2024-09-12热点分享271

   9月12日上午消息,在出席高盛Communacopia Tech大会访谈时,NVIDIA创始人兼首席执行官黄仁勋在谈及通用计算与加速计算之间的区别时指出,如果将5%的代码卸载到加速器上,从技术上将能将应用程序的速度提高100倍,而英伟达将图像加速处理的速度提高了500倍。

黄仁勋谈加速计算:将5%代码卸载到加速器上,可提高100倍程序运行速度

  在黄仁勋看来,通常在软件编写的主体中有很多文件IO,需要设置数据结构,软件内部有一部分包含一些神奇的内核和神奇的算法,这些算法因计算机图形学、图像处理或其他任何领域而异,可能是流体、粒子,也可能是图像域类型的东西,所有这些不同的算法都是不同的。“因此,如果你创建了一个处理器,它在某些算法上非常出色,并且你在通用处理器(CPU)擅长的领域与 CPU 互补,那么从理论上讲,你可以大大加快应用程序的速度,因为通常约5%或10%的代码,代表了99.999%的运行时间。”

  黄仁勋以数据处理为例指出,为了加速数据处理,英伟达创建了一个名为cuDNN 的库,这是世界上第一个神经网络计算库,因此英伟达有了cuDNN,有用于组合优化的cuOpt,也有用于量子模拟和仿真的cuQuantum等各种不同的库。这些不同的库,它们采用应用程序中运行的算法,并以英伟达加速器可以运行的方式重构算法,可以将程序的运行速度提高100倍。

相关文章

Saratoga Investment Corp (SAR):公司预计股息为每股74美分,基于10月7日的股价股息收益率为12.7%

Saratoga Investment Corp (SAR):公司预计股息为每股74美分,基于10月7日的股价股息收益率为12.7%

Saratoga Investment Corp (SAR) 2025财年第二季度财报电话会议:财务表现优秀,此外成功收回投资款项和解决所有非应计或观察名单投资问题。公司...

以太坊基金会AMA总结:怎么看ETH价格拉垮表现 如何应对

以太坊基金会AMA总结:怎么看ETH价格拉垮表现 如何应对

  2024年9月5日晚,第12届以太坊基金会在Twitter Space进行了AMA。按照惯例我为大家挑一些重点内容的整理与解读。  &...

比亚迪李云飞:电动汽车是一个整体、中国汽车品牌也是一个整体,出海需要携手努力

比亚迪李云飞:电动汽车是一个整体、中国汽车品牌也是一个整体,出海需要携手努力

专题:2024中国汽车论坛   “2024中国汽车论坛”于7月11日-13日在上海举行,主题为 “引领新变革 共赢新未来”。比亚迪品牌及公关处总经理李云飞出席并演...

科大讯飞多语言大模型发布,刘庆峰:要给世界第二种选择

科大讯飞多语言大模型发布,刘庆峰:要给世界第二种选择

10月24日下午消息,在第七届世界声博会暨2024科大讯飞全球1024开发者节开幕式上,科大讯飞宣布星火多语言大模型首次发布,除中英文外,可支持俄、日、阿、法等8个语种。根据实用任务场景构建测试...