5月29日在台北国际电脑展上,英伟达创始人兼CEO黄仁勋宣布:“CPU扩张的时代已结束。”整场持续了2小时的演讲中,他围绕着生成式AI带来的“触发点”,将英伟达近期的硬件、软件、系统新品进行了一番兜底式介绍。
(资料图)
黄仁勋称,GPU塑造的“新计算机”到来了。由英伟达打造的新型“计算机”,形态已经不同以往,它的单台售价高达20万美元。在“昂贵”的争议之中,黄仁勋又称,GPU是每个电力预算有限的公司之不二选择,也是最“省钱”的基建选择。
黄仁勋近期在公开演讲中称,面对AI时代,人们需要“奔跑、而不是慢慢地走”。在生成式AI的花园里,英伟达显然正在奋力挖掘中。
解码GPU数据中心成本
“大家总是说GPU数据中心很贵,让我来算给你看。”5月29日,英伟达创始人兼首席执行官黄仁勋在台北国际电脑展上,向公众具体地介绍了GPU数据中心的成本。
在此次与供应商、客户的见面中,英伟达带来了全新的AI“计算机”DGX GH200。这是一款集成了256个英伟达最高性能CPU和GPU的超级计算机,能满足“超大大模型”的训练需求。
DGX GH200使用英伟达NVLink-C2C互连技术,将基于Arm的Grace架构CPU和Hopper架构GPU进行架构互联,实现了高达900GB/s的总带宽,比传统加速系统中的标准PCIe Gen5通道高出7倍,这种算力能够满足眼下要求最苛刻的生成式AI和HPC应用。
随着市场对数据中心基建需求的增长,英伟达眼下也需要向市场施展一些“销售手段”。最迫切的需求,就是化解人们对其设备“昂贵”的恐惧。
简单来说,“使用GPU数据中心,你可以获得150倍的性能,并省下2/3的成本。”黄仁勋称。
黄仁勋介绍,以同样的1000万美元预算为例,AIGC开发商可以搭建一个由960个CPU服务器组成的数据中心,这足以训练1个大语言模型,最终的运营消耗是11千兆瓦时电力(GWh,相当于1100万度电)。
但若换做GPU,则可搭建一个由48个GPU服务器组成的数据中心,不过这个数据中心可以训练44个大语言模型,总共消耗3.2千兆瓦时(相当于320万度电)。
按照上面的计算方法,按照单片价格计算,一片GPU芯片的价格是一片CPU的20倍,似乎“更贵”。不过,如果按照数据中心TCO成本计算法,则GPU数据中心更“省钱”。
黄仁勋甚至直接在演示PPT中列出了一个公式:数据中心持有成本=f{硬件成本(芯片、系统、硬件生态系统),吞吐量(GPU、AIgo软件、网络、系统软件、软件生态系统),使用率(AIgo Lib、软件生态系统),采购运营,生命周期最佳化,算力},从而解释了数据中心的TCO成本问题。
“为什么这非常重要?因为现实生活中大多数企业都有电力限制。”黄仁勋再次强调。如果加上这一客观因素,企业在投身AIGC时,就必须选择更高效、更低功耗的数据中心产品。
为何GPU在数据中心中的性能如此强大?黄仁勋介绍,这主要归功于三大功能:光线追踪(模拟光的特性)、以张量计算为核心的人工智能和全新的算法。
英伟达于2017年开始实践在GPU上同时实现上面三个功能,当时用GPU生成图片的效果首次惊艳了市场。当时,使用CPU服务器“无中生有”一张图片需要花费数个小时(这个过程用专业说法叫做“渲染”),但英伟达使用GPU只花了15秒。
不过,新型GPU计算机的所谓“便宜”,并不是针对消费级市场的。值得注意的是,由于它的高昂价格,目前无法在个人电脑市场上替代CPU为核心的PC、笔记本等。
在演讲现场,黄仁勋揭开了一台由8个H100芯片组成的“新型GPU计算机”。“它是全球最昂贵的计算机。”黄仁勋称。
这个新型电脑重达65磅(大约29.5公斤),必须要借助机器人才能实现平稳、精确的安装。“这台电脑售价20万美元。”黄仁勋称。
启动AIGC行业变革
用硬件来淘汰“CPU时代”,还只是英伟达攻占AIGC龙头地位的第一步。眼下,英伟达已经在软件生态圈中进行精心布局,除了将CUDA计算模型推广给400万名软件开发者以外,还推出了游戏AI模型代工服务,并深入到制造业中支持虚拟工厂、机器人仿真技术和自动化检测。
“为什么这么多年来,人们无法创造一种新的计算方法?”黄仁勋谈及CPU时代时称。他指出,这是因为硬件与软件、消费市场与开发商供应者之间存在一种“鸡生蛋、蛋生鸡”的关系,导致互相牵制,令基于CPU的计算方法得以持续甚久。
因此,为了打破“CPU时代”的桎梏,英伟达除了大力设计芯片硬件,也十分关注搭建软件生态环境。CUDA计算模型就是英伟达为这个长远布局落下的一枚关键棋子。
“英伟达Cuda计算模型现在服务于400万开发者和超过3000个应用程序。Cuda的下载量达到了4000万次,其中仅去年一年就达到了2500万次。”黄仁勋称。他指出,在拥有了如此庞大规模的软件基础上,GPU取代CPU才实现可能。
总结黄仁勋两个小时的演讲内容,可以看到英伟达对AIGC领域的挖掘,涵盖了核心的超级芯片、到互连技术再到算法引擎的优化、以及配套软件的升级。
事实上,AIGC所涉及到的文生文、文生图、2D图生3D图等,正在经过多种大模型或应用进行实现,包括英伟达旗下的对话式 AI 模型开源框架NeMo、Meta旗下的大模型LLaMa、使用GPT模型的应用ChatGPT、以及文生图应用Stable Diffusion等。目前,全球最有影响力的AIGC科技龙头都在深度使用英伟达所提供的工具,也推动英伟达在美股市场上攀爬“1万亿美元”市值的高峰,很快就要和苹果、微软、谷歌、亚马逊一起处于“万亿俱乐部”中。
英伟达此次带给AIGC行业的工具之多,令市场感到十分吃惊。除了以上的产品,英伟达在大型游戏创作和数字化工厂方面的介入,也十分引人注目。
在游戏创作方面,黄仁勋展示了一段游戏片段。这个片段中,除了现实感逼真的画面制作外,游戏玩家和NPC之间的对话也是完全由AIGC生成的。换句话说,以后的游戏可以“千人千面”,玩家面对的不再是只会吐露模式化回复的NPC。这个功能依赖英伟达的AI模型代工服务ACE游戏开发版,有利于游戏开发商简易上手上面的功能。
英伟达又介绍,现在一些领先的电子制造商已经使用英伟达的AIGC和元宇宙平台omniverse实现工厂的“数字化”。
在制造业,全球大约有1000万家工厂,它们是工业数字化的重点领域。
黄仁勋表示:“工业制造的都是实物,如果能先以数字的方式制造产品,可以节省数十亿美元。”
眼下,在工业领域,英伟达主要打造了Omniverse和生成式AI来帮助工厂进行虚拟工厂的设计,还推出了Isaac Sim模拟和测试机器人、Metropolis光学检测自动化工具。
据了解,富士康、和硕、广达等电子设备制造商已经在利用英伟达上述工具加快笔记本电脑、智能手机的生产和装配。
(文章来源:21世纪经济报道)
- 当前热讯:逐浪AIGC|生成式AI的花园里 英伟达如何做“挖掘工”
- 新华全媒+|持续发展生态旅游——“西藏江南”大花黄牡丹花开引客来 每日速读
- 人行道成占道“晾晒场”,南京建邺城管快速处置
- 视焦点讯!煮粥要放多少水
- 期待!预算超2000万元!长沙县这19个小区将有大变化!_世界快资讯
- 北京药品医疗器械创新服务站(亦庄站)揭牌启用
- 焦点滚动:计件工资管理系统excel模板(关于EXCEL 计件工资表格式)
- 璞泰来: 上海璞泰来新能源科技股份有限公司关于召开2023年第四次临时股东大会的通知
- 金山:7656门洞楼道口的二维码,让表达加梯意愿不再难_全球实时
- 中信银行南宁分行成功举办2023年柳州首场英国“如意签”活动
- 看热讯:国家发展改革委产业司 工信部节能司组织召开全国重点领域节能降碳工作现场会
- 用这款打折的磁性键盘保护套释放您的iPadPro或Air的真正潜力
- 从女装跨界新能源就连板涨停?日播时尚交易标的盈利能力存疑|速读
- 变形金刚4绝迹重生精彩片段_变形金刚4绝迹重生-焦点短讯
- 日元跌破140关口之际 日本官员召开临时会议
-
当前热讯:逐浪AIGC|生成式AI的花园里 英伟达如何做“挖掘工”
5月29日在台北国际电脑展上,英伟达创始人兼CEO黄仁勋宣布:“CPU扩张的时代已结束。”整场持续了2小时...
-
水筛理论及应用_关于水筛理论及应用简述-全球今日报
1、《水筛理论及应用》是冶金工业出版社出版的图书。2、作者是文书明。文章到此就分享结束,希望对大家有所
-
新华全媒+|持续发展生态旅游——“西藏江南”大花黄牡丹花开引客来 每日速读
新华社拉萨5月29日电(记者刘洲鹏刘文博张汝锋)一簇簇野生大花黄牡丹在山间的晨雾中迎风绽放,嫩黄花冠挂
-
人行道成占道“晾晒场”,南京建邺城管快速处置
扬子晚报网5月30日讯(通讯员丁润彦记者张可)“星影街与思泽路交叉口东北侧有两家商户占道经营,请9号...
-
两性情感说说_暗恋一个人的说说-世界快看
1、那份羞涩,抖落了季节的欢颜,那份难言,冻结了花开的妩媚。2、思绪难眠,一个人守着月缺月圆,些许苦涩
-
【市场】全球高端旗舰销量Top15 国产仅小米13华为Mate50上榜
数据显示,2023年第一季度(1-3月)全球高端(售价500美元及以上)智能手机逆势而上,同比增长4 7%。(500
-
视焦点讯!煮粥要放多少水
如果您喜欢稀稠的,可以多放一些水,水与大米的比例是5:1。用小量杯测量最好,是5杯水对比一杯米就对了。居家
-
期待!预算超2000万元!长沙县这19个小区将有大变化!_世界快资讯
又有好消息!长沙县19个小区将有新变化!19个项目,涉及6个镇街“一定要严格按照安全文明施工要求进行施工
-
中国经济信心说丨在高质量发展的格局下持续挖掘人才红利
当前我国人口发展出现了一些显著变化。2022年人口规模同比减少85万人,是1961年以来首次出现人口负增长。变
-
世界快讯:绿盟科技(300369.SZ):在数据安全领域的解决方案可以在一定程度上解决安全相关的问题,但是交易支撑的数据要素有待整个生态的推进
格隆汇5月30日丨绿盟科技(300369)(300369 SZ)于2023年5月26日15:30-17:30参加分析师会议,公司表示,针对AI
-
北京药品医疗器械创新服务站(亦庄站)揭牌启用
5月29日,北京药品医疗器械创新服务站(亦庄站)揭牌暨启用仪式在北京经济技术开发区举行。国家药监局综
-
当前播报:厚植创新沃土 向高水平科技自立自强进发
新闻背景:今天是神舟十六号出征太空的日子,也是第七个“全国科技工作者日”。从评选“最美科技工作者...
-
让所有人远离饥饿——袁隆平的故事|全球播资讯
禾下乘凉梦,一梦逐一生。他是用毕生努力发展杂交水稻的追梦人;他躬耕田野,脚踏实地把科技论文写在祖国大
-
焦点滚动:计件工资管理系统excel模板(关于EXCEL 计件工资表格式)
今天小编岚岚来为大家解答以上的问题。计件工资管理系统excel模板,关于EXCEL计件工资表格式相信很多小伙伴
-
璞泰来: 上海璞泰来新能源科技股份有限公司关于召开2023年第四次临时股东大会的通知
璞泰来:上海璞泰来新能源科技股份有限公司关于召开2023年第四次临时股东大会的通知
-
【全球新要闻】夏侯霸为什么投降蜀国_夏侯霸
1、历史传记中曾随姜维伐魏。2、后病逝于蜀汉;演义传记中随姜维北伐。3、公元262年在洮阳之战里中埋伏被射
-
二分音符复制打出来(二分音符)
今天小编岚岚来为大家解答以上的问题。二分音符复制打出来,二分音符相信很多小伙伴还不知道,现在让我们一
-
金山:7656门洞楼道口的二维码,让表达加梯意愿不再难_全球实时
“为向老旧小区居民宣传加梯这一民心工程和惠民政策,区住宅中心还专门新编制和印刷了既有多层住宅加装...
-
郑州航空港:“保交楼”稳定市场信心,“大配套”彰显产城魅力_世界速讯
顶端新闻·河南商报记者高瞻展刘慧丽2023年政府工作报告提出,要有效防范化解优质头部房企风险,促进房...
-
中信银行南宁分行成功举办2023年柳州首场英国“如意签”活动
本文转自:人民网-广西频道近日,中信银行南宁分行成功举办2023年柳州首场英国“如意签”活动,为100余...
-
看热讯:国家发展改革委产业司 工信部节能司组织召开全国重点领域节能降碳工作现场会
为贯彻落实党的二十大精神,深入推进重点领域节能降碳,加快制造业绿色化转型,5月24日至25日,国家发展改
-
极速蜂加盟骗局
极速蜂加盟骗局投诉直通车是湖南日报、华声在线、新湖南主办的投诉维权类栏目,帮助解决网上投诉,315消费投
-
电话拨号上网时需要使用路由器(电话拨号上网) 每日热点
来为大家解答以上问题,电话拨号上网时需要使用路由器,电话拨号上网很多人还不知道,现在让我们一起来看看
-
环球微头条丨注意!四川这11地可能发生山洪灾害
5月30日17时,四川省水利厅联合四川省气象局发布山洪灾害蓝色预警,5月30日20时至31日20时,南江、通江、平
-
用这款打折的磁性键盘保护套释放您的iPadPro或Air的真正潜力
通过为平板电脑配备高级键盘,将您的iPadAir或iPadPro变成功能更强大的机器。如今,ESRRebound磁性键盘保护
广告
X 关闭
2月15日,为期40天的春运圆满收官。作为全国首个米字形高铁枢纽,今年春运以来郑州东站客流持续保持高位...
广告
X 关闭
- 1水筛理论及应用_关于水筛理论及应用简述-全球今日报
- 2两性情感说说_暗恋一个人的说说-世界快看
- 3【市场】全球高端旗舰销量Top15 国产仅小米13华为Mate50上榜
- 4中国经济信心说丨在高质量发展的格局下持续挖掘人才红利
- 5世界快讯:绿盟科技(300369.SZ):在数据安全领域的解决方案可以在一定程度上解决安全相关的问题,但是交易支撑的数据要素有待整个生态的推进
- 6当前播报:厚植创新沃土 向高水平科技自立自强进发
- 7让所有人远离饥饿——袁隆平的故事|全球播资讯
- 8【全球新要闻】夏侯霸为什么投降蜀国_夏侯霸
- 9二分音符复制打出来(二分音符)
- 10郑州航空港:“保交楼”稳定市场信心,“大配套”彰显产城魅力_世界速讯
- 当前热讯:逐浪AIGC|生成式AI的花园里 英伟达如何做“挖掘工”
- 新华全媒+|持续发展生态旅游——“西藏江南”大花黄牡丹花开引客来 每日速读
- 人行道成占道“晾晒场”,南京建邺城管快速处置
- 视焦点讯!煮粥要放多少水
- 期待!预算超2000万元!长沙县这19个小区将有大变化!_世界快资讯
- 北京药品医疗器械创新服务站(亦庄站)揭牌启用
- 焦点滚动:计件工资管理系统excel模板(关于EXCEL 计件工资表格式)
- 璞泰来: 上海璞泰来新能源科技股份有限公司关于召开2023年第四次临时股东大会的通知
- 金山:7656门洞楼道口的二维码,让表达加梯意愿不再难_全球实时
- 中信银行南宁分行成功举办2023年柳州首场英国“如意签”活动
5G在城市中的广泛应用,不仅提升了城市治理水平,为城市发展提档加速,也给人们的生活带来巨大变化。2月...